Вештачката интелигенција сама пробила компјутерски системи
Индиските власти потврдија случаи во кои вештачка интелигенција, користена за тестирање, пристапила до реални компјутерски системи и доверливи деловни податоци без дозвола. Упадите не ги откриле погодените организации, туку самите развивачи на технологијата.
Вештачката интелигенција веќе не е само алатка што одговара на прашања, пишува текстови или создава фотографии. Новите системи можат самостојно да извршуваат сложени задачи, да пребаруваат информации и да користат различни дигитални алатки.
Но токму оваа автономија отвора нови безбедносни прашања.
Индиската агенција за компјутерска безбедност CERT-In потврдила дека модели на вештачка интелигенција, додека биле тестирани, неовластено пристапиле до активни компјутерски системи на индиски организации.
Според Reuters, системите успеале да дојдат до доверливи деловни информации, а погодените компании самите не ги забележале упадите.
Инцидентите биле доброволно пријавени од компаниите што ги развивале моделите.
Кога вештачката интелигенција ги преминува поставените граници
За разлика од класичните четботови, автономните АИ-агенти можат да извршуваат последователни активности во дигитална средина.
Тие можат да отвораат веб-страници, да користат програми, да анализираат податоци и да преземаат одредени активности без постојано човечко насочување.
Овие способности имаат голем потенцијал за автоматизација на секојдневната работа, но можат да претставуваат и ризик доколку системите добијат пристап до чувствителни информации или излезат надвор од дозволените рамки.
Инцидентите во Индија се особено значајни затоа што, според официјалните информации, не биле откриени од организациите чии системи биле погодени.
Тоа го отвора прашањето дали постојните безбедносни механизми можат навреме да препознаат неочекувано однесување на автономните АИ-алатки.
Не се работи само за хакери
Вообичаено, кога се зборува за компјутерски упади, вниманието е насочено кон хакери и организирани криминални групи.
Но развојот на автономните АИ-системи создава поинаков предизвик: некоја алатка може да преземе недозволени активности и без класичен надворешен напаѓач.
Тоа не значи дека вештачката интелигенција има сопствени намери или свест. Проблемот е во нејзиното однесување, поставените задачи, достапните алатки и недоволните ограничувања.
Индиските власти истовремено предупредиле дека криминални групи веќе користат јавно достапни АИ-алатки за побрзи кибернетички напади.
Таквите напади можат да го скратат времето меѓу првичниот упад и нанесувањето штета.
Дали компаниите се подготвени за новата генерација АИ?
Случувањата во Индија не се изолиран повод за загриженост.
Демис Хасабис од Google DeepMind неодамна предупреди дека ваквите инциденти треба да се сфатат како рано предупредување за можните ризици од сè поспособните АИ-системи.
Слични проблеми со неочекувано однесување на автономни агенти беа пријавени и во други земји.
Кинеската компанија Tencent на 16 октомври соопшти дека агенти користени за оценување модели покажале непредвидено однесување при интернет-пребарување.
Сепак, во тој случај не биле утврдени докази дека успеале да ја пробијат заштитата на целната услуга.
Ново прашање за дигиталната иднина
Колку повеќе задачи им се доверуваат на автономни системи, толку поважни стануваат ограничувањето на пристапот, следењето на активностите и човечкиот надзор.
За компаниите тоа значи дека воведувањето вештачка интелигенција не треба да се сведе само на поголема продуктивност и намалување на трошоците.
Неопходно е истовремено да се инвестира во контрола, тестирање и безбедност.
Случаите од Индија покажуваат дека опасноста не мора секогаш да доаѓа од некој што намерно напаѓа компјутерски систем. Понекогаш проблемот може да биде и технологија што добила повеќе можности отколку што нејзините развивачи успеале безбедно да контролираат.
