INFOMAX.MK

Во сенка на трговската војна, Тајван и глобалната трка за најмоќна вештачка интелигенција, меѓу САД и Кина се отвора уште едно прашање кое можеби е далеку поопасно – што ќе се случи ако автономен систем со вештачка интелигенција изврши воена операција која другата страна ќе ја протолкува како почеток на напад?

Американски и кинески експерти за национална безбедност предлагаат Вашингтон и Пекинг да воспостават правила слични на механизмите за контрола на нуклеарното оружје од времето на Студената војна.

Според Reuters, меѓу предлозите се воспоставување јасни „црвени линии“ околу нуклеарните командни системи, задолжителна човечка контрола врз најопасните сајбер операции и директна американско-кинеска линија за комуникација во случај на инцидент со автономна вештачка интелигенција.

Стравот е релативно едноставен, но последиците можат да бидат огромни.

Замислете автономен систем да навлезе во комуникациската или нуклеарната инфраструктура на противникот без експлицитна наредба од политичкото раководство. Другата страна можеби нема да знае дали станува збор за грешка, сајбер операција или подготовка за вистински воен напад.

Во нуклеарна криза, времето за проценка може да се мери во минути.

Токму затоа експертите предлагаат луѓето да ја задржат конечната контрола врз операции кои би можеле да погодат нуклеарни командни и комуникациски системи или друга стратешка инфраструктура.

Особено интересно е што иницијативата не доаѓа само од американска страна.

Предлозите произлегуваат од американско-кинески дијалог за вештачка интелигенција и национална безбедност организиран од Brookings Institution и Центарот за меѓународна стратегија и безбедност при Универзитетот Цингхуа. Засега тие не претставуваат официјален договор меѓу владите.

Но Пекинг јавно признава дека природата на војувањето се менува.

Кинескиот министер за државна безбедност Чен Јисин оцени дека вештачката интелигенција фундаментално ја менува формата на воената борба и преминува од помошна технологија кон клучна улога на бојното поле.

Темата станува уште поважна поради претстојната средба меѓу Доналд Трамп и Си Џинпинг во Вашингтон на 24 септември.

Таму се очекува да се разговара за трговијата, Тајван, Иран, технологијата и вештачката интелигенција.

Доколку Вашингтон и Пекинг навистина почнат да преговараат за ограничувања на воената употреба на AI, тоа би можело да биде почеток на сосема нов вид контрола на вооружувањето.

Во XX век најголемиот страв беше човек да притисне погрешно копче.

Во XXI век прашањето станува уште покомплицирано: што ако одлуката што може да предизвика меѓудржавна криза ја донесе машина?