Истражувач си замина од Антропик со морничаво предупредување: Луѓето кои ја креираат вештачката интелигенција веруваат дека може да нè убие сите

Еден од истражувачите кои работеле на развојот на најнапредните системи за вештачка интелигенција ја напушти компанијата Anthropic со драматично предупредување – технолошката индустрија се движи кон создавање самоподобрувачка суперинтелигенција без доволно разбирање за тоа дали човекот ќе може да ја контролира.

Џејкоб Коксон, истражувач кој во изминатите три години работел на „pretraining“ на модели во OpenAI и Anthropic, објави дека поднесува оставка од Anthropic поради сериозна загриженост за насоката во која се развива вештачката интелигенција.

Неговото предупредување е особено интересно бидејќи не доаѓа од надворешен критичар на AI индустријата, туку од човек кој директно работел на технологијата во две од водечките компании во светот.

Коксон ги обвини и двете компании дека учествуваат во трка кон создавање вештачка суперинтелигенција која би можела самостојно да ги подобрува сопствените способности.

Според него, компаниите со тоа практично „се коцкаат со нашите животи“.

„Луѓето кои ја создаваат AI искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата“, предупреди Коксон во објавата со која го објасни своето заминување.

Станува збор за негово лично предупредување и проценка за ризикот, а не за утврден факт или консензус меѓу научниците. Сепак, неговото заминување повторно ја отвори дебатата за тоа колку далеку може да стигне развојот на вештачката интелигенција пред да бидат создадени механизми кои гарантираат дека многу помоќните идни системи ќе останат под човечка контрола.

„Не ја потценувајте моќта на оваа технологија“

Коксон предупредува дека идните AI системи би можеле да достигнат способности далеку над денешните чет-ботови.

Според неговото сценарио, напредната вештачка интелигенција би можела да стане подобра од луѓето во голем број интелектуални задачи, да добие исклучително напредни способности во програмирањето и сајбер-безбедноста и драматично да го забрза научното истражување.

Токму можноста таков систем да започне да ги подобрува сопствените способности е во центарот на неговата загриженост.

Ако AI стане доволно способна да создава подобaр AI модел, теоретски би можел да започне процес во кој секоја следна генерација станува поспособна да ја создаде наредната.

Овој концепт често се нарекува рекурзивно самоподобрување.

Главното прашање е дали луѓето би можеле да ја задржат контролата доколку таков процес се одвива многу побрзо отколку што владите, компаниите и безбедносните истражувачи можат да реагираат.

Коксон: И OpenAI и Anthropic постапуваат неодговорно

Коксон е критичен кон двете компании во кои работел.

Според него, OpenAI и Anthropic имаат различен пристап кон опасноста, но крајниот резултат е сличен – продолжување на трката за создавање сè поспособни модели.

За Anthropic, Коксон вели дека ризиците се добро разбрани во компанијата, но дека таа истовремено се наоѓа во конкурентска трка во која постои страв дека некој друг ќе стигне прв до суперинтелигенција.

Тоа создава еден од најголемите парадокси во AI индустријата.

Дури и компанија која верува дека технологијата може да биде опасна има силен мотив да продолжи со нејзиниот развој доколку смета дека конкурентите во секој случај ќе го направат истото.

Коксон смета дека токму ваквата логика може да ја турка целата индустрија кон ризик кој ниту една компанија индивидуално не сака да го преземе, но кој сите го преземаат бидејќи се плашат да не заостанат зад конкурентите.

Уште еден висок истражувач на Anthropic признава сериозен ризик

Предупредувањето на Коксон доби дополнителна тежина откако на дебатата реагираше Еван Хубингер, кој ја предводи Alignment Science во Anthropic.

Хубингер јавно напиша дека тој и неговите колеги навистина ја сфаќаат можноста за катастрофален исход сериозно.

Неговата лична проценка е дека постои повеќе од 10 проценти веројатност AI да доведе до исчезнување на човештвото во следната деценија.

Уште позначајно, Хубингер предупреди дека проблемот како да се осигури идната суперинтелигенција да ги следи човечките цели и вредности сè уште не е решен.

Тоа е познато како проблем на AI alignment – како да се осигури дека систем кој потенцијално би бил поинтелигентен од луѓето ќе постапува во согласност со човечките намери и нема да развие цели кои би можеле да бидат опасни.

Не е првиот кој си заминува

Коксон не е единствениот истражувач кој ја напушти AI индустријата поради загриженост за безбедноста.

Во февруари годинава од Anthropic си замина и истражувачот Мринанк Шарма, кој работеше на безбедносните механизми на компанијата.

Шарма тогаш предупреди дека „светот е во опасност“ и зборуваше за тешкотиите компаниите навистина да се придржуваат до сопствените вредности кога се соочени со конкурентски и комерцијални притисоци.

Во претходните години имаше заминувања поради безбедносни несогласувања и од OpenAI.

Така постепено се создава група поранешни инсајдери кои не тврдат дека денешните AI системи се способни да го уништат човештвото, туку предупредуваат дека брзината со која растат нивните способности може да биде поголема од брзината со која се решаваат проблемите со нивната безбедност.

Дали опасноста навистина е толку голема?

Тука е потребна важна разлика.

Не постои научен консензус дека вештачката интелигенција ќе го уништи човештвото, ниту дека суперинтелигенција сигурно ќе биде создадена до крајот на оваа деценија.

Дел од научниците сметаат дека ваквите сценарија се премногу спекулативни и дека поголемо внимание треба да се посвети на ризиците кои веќе постојат – губење работни места, дезинформации, сајбер-напади, измами, концентрација на економска моќ и злоупотреба на AI од држави или криминални организации.

Но Коксон поставува поинакво прашање.

Доколку дури и луѓето кои директно ги создаваат најмоќните AI системи проценуваат дека постои макар и релативно мала можност технологијата еден ден да излезе од човечка контрола, дали е оправдано компаниите да продолжат да се натпреваруваат кој прв ќе создаде уште помоќен систем?

Коксон смета дека не е.

Тој повикува на многу поголема координација меѓу водечките AI лаборатории и смета дека би можеле да бидат потребни и радикални мерки, вклучително и привремено запирање на подобрувањето на способностите на најнапредните модели.

Неговото заминување затоа ја отвора можеби најважната дилема во целата технолошка трка:

Што ако компаниите кои се натпреваруваат да создадат интелигенција помоќна од човекот стигнат до неа пред да откријат како безбедно да ја контролираат?