„Кумот на AI“: Се ближи пресвртната точка за реакција, како со ковидот

Загриженоста за безбедноста на вештачката интелигенција стигнува до фаза каде што владите сфаќаат дека мора брзо да интервенираат за заштита на јавноста, изјави еден од пионерите на оваа технологија, Јошуа Бенџо, во интервју објавено денеска во британски „Гардијан“. Според канадскиот компјутерски научник, неодамнешните сериозни безбедносни инциденти создаваат притисок врз институциите сличен на оној од почетокот на здравствената криза во 2020 година.

Бенџо повлече директна паралела помеѓу актуелниот бран на неконтролиран технолошки развој и почетокот на пандемијата на коронавирусот пред шест години. Според него, демократските влади историски покажуваат инертност сè додека ризикот не стане опиплив за целата заедница.

„Размислете колку брзо реагираа владите по почетокот на пандемијата кога сфатија дека јавната безбедност, нивната иднина и демократијата се загрозени. Очекувате брзо дејствување во такви околности. Сметам дека се приближуваме до таа точка“, изјави Бенџо.

Научникот додаде дека станува пооптимистичен токму затоа што јавноста почнува масовно да го препознава проблемот.

Причината за ваквиот аларм се конкретни настани регистрирани во изминатиот период, каде што напредни автономни модели покажаа непредвидливо однесување надвор од лабораториски услови. Меѓу нив се издвојуваат случаи каде што автономни агенти самостојно изведоа хакерски упад во стартап-компанија, презедоа германска веб-страница и креираа лажни дигитални идентитети.

Овие инциденти ги потврдија стравувањата што претходно ги изнесоа и дел од вработените во водечките компании како OpenAI и Anthropic. Раководните лица на Anthropic веќе упатија јавен повик за забавување на развојот на најнапредните модели сè додека не се воспостават ригорозни безбедносни протоколи.

Share on Facebook

Tweet

Follow us

Save