Водещата ИИ компания Anthropic призовава за глобална „пауза“ в развитието на изкуствения интелект, като твърди, че технологията наближава точката, в която може да излезе извън контрола на човека.

В дълъг блог пост, най-високо оцененият стартъп за изкуствен интелект в света изтъкна, че неговата серия модели Claude е на път да постигне „рекурсивно самоусъвършенстване“ или способността да се усъвършенстват сами – ключов хипотетичен преломен момент, който може да доведе до създаването на мощни ИИ, способни да действат извън човешките интереси и да навредят на обществото.

Все още не сме стигнали до тази точка, подчертава Anthropic, но тя „може да настъпи по-скоро, отколкото повечето институции са подготвени“.

„Вярваме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния ИИ, за да позволи на обществените структури и изследванията в областта на съгласуването да се приспособят към напредъка на технологията“, написа компанията в публикацията.

Тя добави, че „значително забавяне или пауза би изисквало множество добре финансирани лаборатории на или близо до границата, в различни страни, които да се съгласят да спрат при едни и същи условия“, и призна, че това би било трудно за прилагане.

„Учебните тестове са много по-лесни за прикриване от ракетните силози“, пише в публикацията.

За Anthropic е удобно да призовава за пауза точно сега. През последните няколко месеца компанията изпревари OpenAI и се превърна в най-скъпата компания за изкуствен интелект в света с оценка от 1 трилион долара, а моделите ѝ вече се считат за най-добрите в областта, особено при задачи, свързани с програмиране. Ако индустрията натисне спирачките сега, това ще затвърди доминирането на Anthropic.

Не всички се съгласиха с твърденията на Anthropic. Известният критик на изкуствения интелект Гари Маркъс нарече дългия пост на компанията „опит за манипулация“.

„Anthropic се опитва да всее страх в сърцата на всички („пълното рекурсивно самоусъвършенстване също може да увеличи риска хората да загубят контрол над системите за изкуствен интелект“), но всичко, което всъщност са показали, е просто по-бързо кодиране – изцяло под човешки контрол“, написа Маркъс в своя блог. „Един по-бърз инструмент за кодиране вероятно няма да доведе до края на света.“

Anthropic отдавна се опитва да се представи като етичния и дълбоко загрижен играч в бранша. Един от основните елементи на тази митология е, че изпълнителният директор Дарио Амодей се въздържал да пусне революционен модел за изкуствен интелект още през 2022 г., защото бил прекалено загрижен за безопасността, и вместо това оставил OpenAI да пожъне цялата слава, когато компанията представи ChatGPT няколко месеца по-късно.

Преди два месеца, в преработено продължение на тази фундаментална история на компанията, Anthropic обяви нов модел, наречен Mythos, но демонстративно не го пусна на пазара, твърдейки, че е достатъчно мощен, за да проникне във „всяка голяма операционна система и всеки голям уеб браузър“.

Това ѝ поведение обаче звучи по-изкуствено от всякога. По-рано тази година Anthropic се сблъска с Пентагона поради опасения, че нейните ИИ системи могат да бъдат използвани в автономно оръжие и в масовото наблюдение на американски граждани. По-късно стана ясно, че именно Claude е бил използван за подпомагане на избора на цели за удари в Иран.

На фона на конфликта си с военните, Anthropic се отказа и от обещанието си за безопасност, което може да се каже, че беше цялата причина за съществуването на предприятието: да спре обучението на система за изкуствен интелект, ако не може да гарантира, че разполага с подходящи предпазни мерки за безопасност.

За да подчертае още повече лицемерието на Anthropic, преподавателят от Университетския колеж в Лондон Стивън Мърдок цитира скорошна статия във „Файненшъл Таймс“, в която се разкрива, че Anthropic помага на Агенцията за национална сигурност на САЩ да използва модела ѝ Mythos, за да води кибервойна срещу потенциални врагове като Китай и Иран.

„Anthropic може да създава впечатление за топлота и доброта, но тяхното определение за безопасността на ИИ е тясно“, заявява Мърдок. „Подкрепата на американските власти в разработването на нападателни способности никога не е била нещо, срещу което те са се изказвали.“

Независимо дали Anthropic наистина смята, че има дори и най-малък шанс да постигне глобална пауза – или дали това е поредният ход за подобряване на имиджа им на компания, загрижена за безопасността – тя обещава да предприеме по-нататъшни действия.

„През следващите месеци ще организираме разговори, в които политици, изследователи, гражданското общество и други компании за изкуствен интелект могат да помогнат за отговора на някои от въпросите, повдигнати в тази статия, особено по отношение на пълното рекурсивно самоусъвършенстване и как да се създадат по-добри възможности за координация и обсъждане“, написа компанията. „Ще публикуваме резултатите от тях.“

Снимка: Unsplash

Виж още: За пръв път в историята на мрежата: Ботовете окончателно изпревариха човешкия трафик в интернет