Бил Гејтс со драматично предупредување: Вештачката интелигенција може да предизвика настан со милијарда жртви

Коосновачот на Microsoft, Бил Гејтс, излезе со едно од своите најсериозни предупредувања досега за развојот на вештачката интелигенција, оценувајќи дека технологијата е доволно моќна за, доколку биде злоупотребена, да придонесе за катастрофа во која би можеле да загинат дури една милијарда луѓе.

Гејтс го изнесе предупредувањето во интервју за NBC „Meet the Press“, во кое зборуваше за ризиците од брзиот развој на AI и потребата владите да воспостават задолжителни безбедносни механизми.

„Вештачката интелигенција сигурно е доволно моќна за да поттикне настани што би предизвикале милијарда смртни случаи“, изјави Гејтс. Тој додаде дека целосното уништување на човештвото е многу потешко сценарио, но предупреди дека комбинацијата од најнапредните AI алатки и луѓе со злонамерни намери создава досега невиден ризик.

Гејтс не предвидува дека милијарда луѓе ќе загинат

Овде е важна една разлика: Гејтс не рече дека AI ќе убие милијарда луѓе, ниту дека таков настан е неизбежен.

Неговата изјава се однесува на потенцијалната моќ на технологијата и на сценарио во кое напредни AI системи би биле употребени од злонамерни актери. Во интервјуто тој не посочи конкретен механизам преку кој би дошло до една милијарда жртви.

Токму затоа неговата порака е насочена пред сè кон регулацијата и контролата на најмоќните системи.

„Никој не мисли дека саморегулацијата е доволна“, рече Гејтс, барајќи политичарите и органите за спроведување на законот да бидат директно вклучени во утврдувањето на безбедносните правила и мониторингот на индустријата.

„Никогаш немало вакво оружје“

Според Гејтс, најголемата опасност не мора да биде самата технологија, туку тоа што таа може драматично да ги зголеми способностите на луѓето кои сакаат да предизвикаат штета.

Неговото предупредување е дека напредната AI може да им даде на релативно мал број луѓе способности кои во минатото биле достапни само на држави или големи организации.

„Никогаш немало оружје толку моќно како комбинацијата од луѓе со лоши намери и најновите AI алатки“, предупреди Гејтс.

Тој смета дека контролирањето на овој ризик би можело да биде потешко дури и од спречувањето на ширењето на нуклеарното оружје, бидејќи AI е софтверска технологија која се развива брзо и е многу пошироко достапна.

Бара државна контрола, а не запирање на AI

Гејтс, сепак, не повика на целосно запирање на развојот на вештачката интелигенција.

Наместо тоа, тој бара законски задолжителни заштитни механизми, независен мониторинг и директно учество на државните институции. Според него, дополнителните безбедносни правила би создале одредени трошоци за AI компаниите, но не би морале драматично да го забават технолошкиот развој.

Неговата позиција е значајна и затоа што Гејтс генерално долго време зборува за огромниот позитивен потенцијал на AI. Сепак, во последниот период тој сè почесто предупредува дека придобивките ќе зависат од тоа дали општествата ќе успеат да ја контролираат злоупотребата на технологијата.

Дебатата за AI влегува во нова фаза

Изјавата доаѓа во период кога во технолошката индустрија повторно се засилува дебатата за можноста најнапредните системи да станат опасни или да бидат злоупотребени за катастрофални цели.

Тука постои и сериозна дебата меѓу експертите. Дел предупредуваат дека идните системи можат да создадат ризици од досега невидени размери, додека критичарите на ваквите сценарија сметаат дека проценките за масовни жртви се премногу спекулативни и дека не постои основа да им се додели конкретна веројатност.

Затоа бројката од „една милијарда“ не треба да се чита како прогноза.

Но пораката на Гејтс е исклучително остра: човештвото развива технологија чија потенцијална моќ, според него, е толку голема што повеќе не може да се остави единствено на самите технолошки компании да одлучуваат како ќе биде контролирана.

Share on Facebook

Tweet

Follow us

Save