Предупредувања за ВИ апокалипса: Сите погледи се вперени во Трамп и Си

Ваквото сценарио не е сосем ново. Имено, уште во 1991 година во кината се прикажуваше холивудски филм кој уште од воведната секвенца прикажува крајно мрачна слика: „Терминатор 2“. Филмот почнува во далечната иднина разорена од војна. Роботи-убијци и летала ги ловат последните луѓе на планетата кои се борат за опстанок. Со овие машини управува воена вештачка интелигенција што се извлекла од контрола, наречена „Скајнет“. „Далечната иднина“ во која се одвива оваа дистописки визија е годината 2029.

Ако им се верува на предупредувањата на неколкумина програмери на вештачка интелигенција, слично сценарио би можело да се оствари, па дури и во временската рамка предвидена во филмот. „Оние што развиваат вештачка интелигенција сериозно веруваат дека таа би можела сите нас да нè уништи до крајот на деценијата“, објавува неделава на платформата X истражувачот за вештачка интелигенција Џејкоб Кокс0н.

Тој не прецизира како точно би можело да се случи тоа, но истакнува дека „ниту една друга човечка активност нема таков потенцијал на опасност“. До неодамна, Коксон бил вработен во „Антропик“, американска компанија за вештачка интелигенција финансирана меѓу другото и од „Гугл“ и „Амазон“. Во знак на протест заради, според него неодговорната, трка на оние кои се занимаваат со вештачка интелигенција за развој на сè понапредна автономна суперинтелигенција, тој си поднесе оставка. Коксон предупредува дека алгоритмите би можеле самостојно да го анализираат и подобруваат сопствениот изворен код, со што потенцијално би ги скратиле циклусите на развој од месеци на само неколку минути и би навлегле во сфера надвор од човечката контрола. Коксон не е единствениот што е загрижен. Физичарот и нобеловец Џефри Хинтон, кого го сметаат за „кум на вештачката интелигенција“, со години предупредува од сериозните последици што може да ги донесе оваа технологија. Во 2023 година тој си замина од „Гугл“ за јавно да предупреди од опасностите од технологијата во чиј развој и самиот учествувал. И добитникот на наградата Тјуринг, Јошуа Бенџијо, е загрижен во врска со тековните случувања. Пионерот во областа на вештачката интелигенција од универзитетот во Монтреал постојано повикува на строга државна регулација на нејзиниот развој. Во јули 2026 година повеќе од илјада вработени во водечки компании за вештачка интелигенција во отворено писмо предупредија од неизбежна загуба на контролата, доколку трката за оптимизирање на „суперинтелигенцијата“ не се подложи на значително подобра регулатива.

Сепак, за време на мандатот на Доналд Трамп, се случи токму спротивното – САД својата политика за вештачка интелигенција ја насочија кон тоа да има што помалку регулаторни пречки и што побрз технолошки развој. Во својата објава на платформата X, Коксон исто така индиректно ги критикуваше последиците од таквата политика. „Во ОпенАИ, многумина немаат длабоко усвоена свест за цивилизациските ризици. Во Антропик ризиците многу добро ги разбираат, но тие се заробени во настојувањето да ја предводат трката, сметајќи дека никој друг нема да постапи одговорно, па мора и самите да го прават тоа, и покрај ризикот“, вели Коксон.

Коксон од ОпенАИ прејде во Антропик на почетокот на 2026 година, така што е запознаен со двете корпоративни култури. Во интервју за Вол Стрит Џурнал, тој исто така изјави дека според „најагресивните сценарија“ нештата би можеле да излезат од контрола уште кон крајот на 2027 година.

Бројни стручњаци во изминатите години изразија загриженост во врска со наглиот напредок на вештачката интелигенција, а особено развојот на т.н. „општа вештачка интелигенција“ е во фокусот на расправата. Притоа станува збор за системи кои не само што решаваат изолирани задачи, туку ги достигнуваат или надминуваат човечките интелектуални способности во речиси сите области. Некои истражувачи тврдат дека таквата технологија би можела да носи непредвидливи ризици. Таквите развиени модели на вештачка интелигенција би можеле дасе водат според цели на начин што отстапува од човечките намери. Истражувачите за безбедност на вештачката интелигенција таквата појава ја нарекуваат „проблем на усогласеност“, или едноставно кажано командата „победи на шаховскиот турнир“ теориски би можела да подразбира елиминирање на другите учесници, преку каква било замислива форма на „елиминација“. За тоа допринесува и фактот дека ни самите програмери не секогаш во потполност разбираат како се носат поедини одлуки. Затоа не зачудува што Еван Хубингер, поранешен колега на Коксон, му се придружи во предупредувањата за опасноста. Хубингер го предводи тимот за стрес-тестирање на усогласеноста во Антропик и на платформата X пиша дека „Џејкоб е во право; ние навистина сериозно веруваме дека вештачката интелигенција би можела да ги убие сите луѓе! Лично јас веројатноста за тоа во следната деценија ја проценувам на повеќе од десет проценти“.

Хубингер притоа јасно стави до знаење „Антропик“ сè уште нема пронајдено решение за проблемот со усогласеноста и додава дека вештачката интелигенција би можела да почне да се спротивставува на сопственото гаснење, не од злоба, туку затоа што тогаш веќе не би можела да ја постигне својата програмирана цел. Даниел Кокотајло, познат поранешен истражувач во ОпенАИ исто така моменталната ситуација во индустријата ја доживува како „луда“.

Сепак, други експерти за вештачка интелигенција сметаат дека таквите апокалиптични сценарија се малку веројатни. Расправата за тоа дали вештачката интелигенција би можела да стане опасна за човештвото трае со години. Меѓу најистакнатите критичари на таканаречените „пророци на пропаста“, е главниот научник на Meta, Јан Лекун. Во октомври 2024 година тој таквите идеи ги отфрли како „потполна бесмислица“. Други експерти исто така укажуваат на тоа дека развојот на такви системи бара огромни количини на компјутерска снага, енергија, податоци и инфраструктура. Вештачката интелигенција не би можела едноставно да ја „преземе власта над светот преку интернетот“. Таа прво би зависела од сервери, електрични мрежи, комуникациски системи и физички ресурси под контрола на луѓе.

Всушност многу експерти краткорочни ризици гледаат не толку во директното уништување на човештвото, туку во бројните индиректни последици од постоечките системи за вештачка интелигенција, без „суперинтелигенцијата“.

Тука на пример спаѓаат кампањи за дезинформација од невидени размери и со нив поврзана манипулација со демократските процеси, ширење на масовен надзор и губење на работни места во бројни бранши. Токму изминатиот петок компанијата Антропик објави дека имало неколку обиди од страна на корисници да го злоупотребат нејзиниот софтвер Клод за развој на биолошко оружје. Корисници во изминатите месеци во повеќе наврати поставувале сомнителни прашања од ваков вид. Антропик била принудена да ги блокира. Во август 2026 година Мета, Антропик и ОпенАИ го привлекоа вниманието кога објавија дека нивните системи за вештачка интелигенција ненамерно извршиле автономни сајбер-напади врз други компании. Од човечки корисници добиле задача да пристапат до одредени сервери, по што самостојно ги комбинирале потребните чекори за да ја остварат таа цел, без дополнителни инструкции од луѓе.

Share on Facebook

Tweet

Follow us

Save