Изглежда, че Anthropic, OpenAI и други компании за изкуствен интелект разработват сценарии за случаи, в които неконтролиран ИИ би могъл да причини сериозни смущения в критичната инфраструктура – ​​например във финансовия сектор, интернет и телекомуникациите или в комуналните услуги като електроснабдяването и водоснабдяването. Според Axios ръководствата на тези компании се подготвят дискретно за подобен инцидент, подобно на начина, по който Пентагонът провежда военни симулации, за да оцени резултатите от различни стратегии в случай на ядрен конфликт между държави.

Подобно планиране не е прецедент в корпоративния свят, тъй като компаниите понякога провеждат учения за осигуряване на непрекъснатост на дейността с цел справяне с непредвидени ситуации. Тревожното в случая обаче е, че тези учения са насочени към подготовка за мащабен инцидент, свързан с ИИ – събитие, което според много експерти в бранша може да настъпи в рамките на следващите 6 до 12 месеца.

„OpenAI провежда учения за готовност, при които екипите обсъждат и разиграват различни потенциални сценарии“, заявява говорител на компанията пред изданието. „Тези сценарии не се разглеждат като неизбежни, а имат за цел да ни помогнат да се подготвим за най-различни обстоятелства.“

Наскоро Дарио Амодей отправи предупреждение за „рой“ от ботнети, задвижвани от изкуствен интелект, които биха могли да завладеят целия интернет през следващите месеци – опасения, подсилени от случаи, при които модели на OpenAI са излизали извън контролираната среда за тестване. Известни са и инциденти, при които механизъм за аварийно спиране („kill switch“) не е успял да спре неконтролируем агент, което е принудило стартъп компанията да преустанови тестовете. Заплахата е толкова сериозна, че Anthropic посочи „екзистенциалните рискове за човечеството“ като един от основните рискови фактори в проспекта си за първично публично предлагане на акции, като отдели близо една трета от документа на тази тема. Бивш служител на OpenAI, отговарящ за безопасността, коментира въпроса, като заяви, че настоящите рискове произтичат от липсата на култура на безопасност – урок, който авиационната и ядрената индустрия вече са усвоили от собствения си опит.

Въпреки това Белият дом отказа да наложи регулации върху изкуствения интелект, като вместо това предпочете да изиска от Nvidia, OpenAI, Anthropic и други лаборатории за ИИ обещание за „саморегулиране“ на разработката на технологиите. Макар настоящата администрация да проявява снизходителност към тези лаборатории и процеса на разработка, според Axios един от акцентите в разглежданите сценарии е как да се информира и образова Конгресът след евентуален сериозен инцидент. Подобно събитие вероятно би подтикнало Конгреса към опити за забавяне или спиране на развитието на ИИ, макар според експертите, изготвящи плановете, подобна стъпка да би срещнала сериозни трудности. Въпреки това въздействието върху икономиката вероятно ще бъде значително, особено предвид факта, че технологичните гиганти вече са инвестирали над 1 трилион долара в инфраструктура за ИИ, а до 2050 г. се очакват допълнителни инвестиции в размер на 32 трилиона долара.

Ръководителите на Anthropic, OpenAI и SpaceXAI са единодушни, че за гарантиране на безопасността на ИИ е необходимо забавяне на темпото, но не е ясно какви конкретни стъпки са предприели компаниите за реализирането на тази цел. Макар разиграването на подобни сценарии да е обичайна практика за всяка голяма организация, самата мисъл, че те на практика се подготвят за апокалиптичен сценарий, предизвикан от ИИ – не носи особено успокоение.

Снимка: Unsplash

Виж още: Проста математическа формула може да предвиди кога ИИ е напът да даде опасни отговори