СКАНДАЛ ВО АВСТРАЛИЈА: Агент на ОпенАИ неовластено упаднал во здравствениот систем во јуни, компанијата ја известила Владата дури во септември

Агент со вештачка интелигенција на OpenAI хакираше веб-страница на австралиското државно здравство Medicare, а на владата ѝ требаа месеци за да биде известена за тоа. Заменик-премиерот на Австралија Ричард Марлс денес потврди дека агентот добил неовластен пристап до порталот на Medicare во јуни, додека Владата била известена дури на 10 септември.

Агентот оствари неовластен пристап до јавни и нејавни датотеки на порталот на услугата за известување за статистика на „Медикер“ (Medicare). Постапките на агентот беа окарактеризирани како „несоодветно однесување“, откако тој беше задолжен за безопасна истражувачка задача за составување здравствени и медицински статистички податоци.

СЕРИОЗЕН ИНЦИДЕНТ

Марлс изјави дека инцидентот бил „многу сериозен“, но имал „релативно мало“ влијание.

Австралиската влада формираше посебна работна група која треба да утврди како агентот успеал да влезе, зошто било потребно толку време за да се алармира јавноста и какви регулативи би можеле да следат.

Агент со вештачка интелигенција на OpenAI доби пристап до Службата за известување за статистика на Medicare – јавен портал што содржи податоци и статистики – додека истражувал податоци за јавните трошоци за здравство на 18 јуни.

Агентот исто така пристапил до Австралискиот институт за здравство и социјална заштита, Министерството за здравство на Викторија и Бирото за статистика и истражување на криминалот на Нов Јужен Велс.

Во оваа фаза се смета дека не се компромитирани лични медицински податоци, но истрагата продолжува.

Премиерот на Австралија, Антони Албанезе, изјави: „Оваа ситуација е очигледно неприфатлива“. „Денес разговарав со извршниот директор на OpenAI, Сем Алтман, за да ја изразам сериозната загриженост на Австралија во врска со овој инцидент, а исто така го изразив и моето разочарување што на компанијата ѝ требаше премногу време за да ја извести владата за тоа што се случило.“

Албанезе изјави дека и доцнењето и начинот на кој OpenAI ја известил владата биле разочарувачки.

„Дури на 10 септември беше испратено какво било известување. А самото известување претставуваше е-порака испратена до обичното јавно сандаче за е-пошта“, рече Албанезе.

Инцидентот се случил додека моделот бил во фаза на обука, при што агентот ја „прескокнал оградата“ и пристапил до дел од порталот на Medicare.

OpenAI ја извести владата дека дознала за инцидентот во август, преку е-пошта испратена до сандачето на агенцијата „Services Australia“ на 10 септември. „Станува збор за агрегирани медицински статистики. Овде не е пристапено до медицински податоци на ниту еден поединец“, рече Марлс, додавајќи дека самиот систем на Medicare не бил компромитиран.

Самиот портал е независна, јавно достапна страница стара неколку децении, која главно ја користат истражувачи и академици, изјави министерката за владини услуги Кети Галагер. „Тој на ниту еден начин не е поврзан со Medicare во однос на барања за надомест, плаќања или обработка на лични податоци. Значи, станува збор за сосема поинаков систем“, рече таа. Галагер изјави дека „во оваа фаза“ не биле вклучени лични податоци, дека податоците оттогаш се преместени на побезбедната платформа data.gov.au, а порталот е исклучен.

Владата формираше специјален тим за итно постапување во кој се вклучени Австралиската дирекција за сигнали (ASD), Институтот за безбедност на вештачката интелигенција и Канцеларијата за вештачка интелигенција; тие ќе го испитаат инцидентот, безбедноста на владините мрежи и постоечките правни рамки.

ОПЕНАИ ПРЕДОЦНА ЈА ИЗВЕСТИЛА АВСТРАЛИЈА ЗА ИНЦИДЕНТОТ

Компанијата OpenAI го откри пробивот во август, за време на проверка на некои од нејзините агенти со вештачка интелигенција кои почнале да дејствуваат надвор од предвидените параметри при извршувањето на задачите.

Тие ја известија австралиската влада на 10 септември преку е-порака испратена до општо службено сандаче на агенцијата „Services Australia“.

„Services Australia“ ја доби информацијата на 11 септември и, откако потврди дека известувањето е веродостојно, го пријави инцидентот во Центарот за сајбер-безбедност при ASD на 15 септември.

Галагер беше известена за инцидентот на 17 септември, а таа, Марлс и министерот за внатрешни работи Тони Бурк одржаа повеќе разговори со претставници на „Services Australia“ и ASD за време на викендот на 19 и 20 септември.

Не е јасно ниту дали се прекршени закони – прашање што ќе го испитува работната група.

Професорот Тоби Волш, главен научник во Институтот за вештачка интелигенција и професор по оваа област на Универзитетот UNSW, изјави дека против OpenAI треба да се покрене правна постапка. „OpenAI имаше – а колку што знаеме, сè уште има – ужасен систем на управување со своите системи. Сметам дека треба да покренеме постапка против компанијата“, изјави Волш за SBS News. „Би покренале постапка против луѓе што би извршиле таков упад.“

Share on Facebook

Tweet

Follow us

Save