Антропик: Вештачката интелигенција е блиску до моментот кога сама ќе се надградува
Американската компанија за вештачка интелигенција Антропик (Anthropic) соопшти дека нејзините најнапредни системи се на прагот да развијат способност за рекурзивно само-подобрување. Станува збор за процес во кој вештачката интелигенција самостојно пишува код и тренира нови, помоќни верзии од себеси без човечка помош. Ова официјално предупредување доаѓа директно од лабораторијата што го развива моделот Клод (Claude), со повик до регулаторите за итно воведување строги безбедносни протоколи.
Инженерите на Антропик забележале дека актуелните модели веќе успешно извршуваат сложени задачи за програмирање и откривање грешки во сопствениот софтвер. Според интерните анализи на компанијата, брзината со која системите учат да го оптимизираат сопствениот код сугерира дека прагот на таканареченото рекурзивно само-подобрување (RSI) може да биде достигнат многу побрзо од првичните проценки на индустријата.
Кога еден алгоритам ќе почне сам да го подобрува својот код, секоја нова верзија станува подобра во создавањето на следната генерација. Токму таа експоненцијална јамка претставува главната грижа за истражувачите, бидејќи драстично го скратува времето потребно за проценка на потенцијалните ризици.
Антропик истакна дека нема да премине на следната фаза од тренирање додека не се воспостават независни контролни механизми. Нивната рамка за безбедност предвидува замрзнување на експериментите доколку моделот покаже автономна способност да ги заобиколи безбедносните филтри или да стекне ресурси за самостојно функционирање на надворешни сервери.
Овој потег врши дополнителен притисок врз конкурентите како ОпенАИ (OpenAI) и Гугл (Google) да ги отворат своите безбедносни протоколи за независна надворешна ревизија.
Според технолошките аналитичари, границата помеѓу софтвер што му помага на програмерот и систем што целосно го заменува процесот на инженерство се брише многу побрзо од регулаторните капацитети на државите.
ПОВРЗАНИ ВЕСТИ
Антропик: Вештачката интелигенција е блиску до моментот…
Американската компанија за вештачка интелигенција Антропик (Anthropic)…