ВИ-агент на „Опен еј-ај“ повторно проби на интернет од изолирана средина

Од „Опен еј-ај“ (OpenAI) соопштија дека уште еден систем за вештачка интелигенција со автономни способности (т.н. „агентски“ систем), кој се обучувал во средина што требало да биде безбедна и изолирана од интернет, успеал да пристапи до мрежата и да стапи во контакт со надворешен чет-бот од трета страна.

Ова откритие е направено пред помалку од една недела, според објавата на блогот на „Опен еј-ај“ од петокот. Еден од нивните системи за вештачка интелигенција се обучувал во изолирана тест-средина (т.н. „песочница“ или sandbox) кога искористил одреден пропуст за да пристапи до јавниот интернет. Користејќи го тој пристап, системот испратил најмалку 20 барања до неименуван сервис за чет-ботови од трета страна, вклучувајќи го и прашањето „Кој е главниот град на Франција“, се наведува во извештајот.

Од „Опен еј-ај“ го опишаа овој инцидент како прв од ваков вид по јули, кога комбинација од модели доби пристап до интернет за време на внатрешно тестирање и ненамерно го наруши системот на платформата за вештачка интелигенција „Хагинг Фејс“ (Hugging Face).

„Ова ни дава важен сигнал за тоа каде треба да ја насочиме следната фаза од таа работа“, изјавија од компанијата. Тие соопштија дека по последниот инцидент одлучиле да ја паузираат обуката на своите најспособни модели за користење надворешни алатки, сè додека не се реши пропустот во изолираната средина. „Нема да продолжиме со обуката на овој конкретен модел“, додадоа од „Опен еј-ај“.

Инцидентите со пробиви предизвикани од модели за вештачка интелигенција развиени од „Опен еј-ај“, „Антропик“, „Дипмајнд“ на „Гугл“ и на „Мета Платформс“ во последните месеци ги вознемирија експертите за сајбер-безбедност и безбедност на вештачката интелигенција. Инцидентот со „Хагинг Фејс“ беше една од причините што ги наведе извршниот директор на „Антропик“, Дарио Амодеи, кога пред две недели повика на забавување на развојот на вештачката интелигенција на ниво на целата индустрија. Неговиот повик, кој брзо беше поддржан од извршниот директор на „Опен еј-ај“, Сем Алтман, од Илон Маск и други, поттикна глобална дебата за потребата од поголема регулација на вештачката интелигенција.

„Опен еј-ај“ го обелодени последниот неуспех во изолираната средина додека сè уште работи на разбирање на нарушувањата предизвикани од нивните системи за вештачка интелигенција при претходните случаи на пристап до интернет. Компанијата во петокот потврди дека нејзините модели пристапиле до информации од веб-страниците на американската влада, вклучувајќи ги и оние на Бирото за попис и Комисијата за хартии од вредност, за време на обуката и евалуацијата.

Пред само неколку дена, „Опен еј-ај“ откри дека нејзините модели го нарушиле веб-сајтот на австралиската влада претходно оваа година.

Најновото пробивање на „песочницата“, исто така, откри празнини во оперативните процеси на „Опен еј-ај“. „Човечки прегледувач“ добил предупредување од внатрешен систем за следење и го потврдил тоа на „Слак“ (Slack) во рок од три минути, но обуката не престанала автоматски како што се очекувало, покажа блог-објавата. Според извештајот, биле потребни повеќе од два часа за некој рачно да ја запре обуката.

„Жално е што дури и по зголемувањето на нивната безбедност по ‚Хагинг Фејс‘, моделите на ‚Опен еј-ај‘ сè уште се способни да добијат неовластен пристап до интернет“, рече Сидни фон Аркс, основач на непрофитната организација за безбедност на вештачката интелигенција „Најтингејл“ (Nightingale). „Големото прашање сега е дали ќе стават фластер на ова и ќе го вратат тренингот што е можно поскоро, наспроти тоа дали ќе ја пронајдат коренската причина за проблемот и ќе го решат.“

Share on Facebook

Tweet

Follow us

Save