В отворено писмо Илон Мъск и група експерти по изкуствен интелект и ръководители от индустрията призовават за шестмесечна пауза в разработването на системи, по-мощни от наскоро стартиралата GPT-4 на OpenAI, като се позовават на потенциални рискове за обществото и човечеството.

По-рано този месец OpenAI, подкрепяна от Microsoft, представи четвъртата итерация на своята програма за изкуствен интелект GPT (Generative Pre-trained Transformer), която впечатли потребителите с широкия си спектър от приложения - от включване на потребителите в разговор до композиране на песни и обобщаване на дълги документи.

В писмото, издадено от Института с нестопанска цел "Бъдещето на живота" и подписано от над 1000 души, включително Мъск, се призовава за спиране на разработването на усъвършенстван AI, докато не бъдат разработени, приложени и проверени от независими експерти общи протоколи за безопасност на такива проекти.

"Мощните системи за AI трябва да се разработват само след като сме сигурни, че ефектът от тях ще бъде положителен, а рисковете ще бъдат управляеми", се казва в писмото.

OpenAI не отговори веднага на искането на медиите за коментар.

В писмото подробно се описват потенциалните рискове за обществото и цивилизацията от страна на конкурентните на човека AI системи под формата на икономически и политически сътресения и се призовава разработчиците да работят с политиците и регулаторните органи по въпросите на управлението.

Сред подписалите писмото са главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от притежаваната от Alphabet (GOOGL.O) DeepMind, както и водещи фигури в областта като Йошуа Бенгио, често наричан един от "кръстниците на AI", и Стюарт Ръсел, пионер на изследванията в тази област.

Според регистъра за прозрачност на Европейския съюз Институтът за бъдещето на живота се финансира основно от фондацията на Мъск, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Silicon Valley Community Foundation.

Критиците обвиниха подписалите писмото, че насърчават "шумотевицата около изкуствения интелект", като посочват, че твърденията за настоящия потенциал на технологията са силно преувеличени.

Притесненията идват, след като в понеделник Европол се присъедини към хор от етични и правни опасения във връзка с усъвършенствания изкуствен интелект като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.

Междувременно правителството на Обединеното кралство представи предложения за "адаптивна" регулаторна рамка за AI.

Подходът, описан в политически документ, публикуван в сряда, ще разпредели отговорността за регулирането на изкуствения интелект между регулаторните органи за правата на човека, здравето и безопасността и конкуренцията, вместо да създаде нов орган, посветен на технологията.

Миналата седмица OpenAI обяви, че си е партнирала с около дузина фирми, за да вгради техните услуги в чатбота си, позволявайки на потребителите на ChatGPT да поръчват хранителни стоки чрез Instacart или да резервират полети чрез Expedia.

Снимка: Unsplash

Виж още: AI удиви учен с това какво създаде за 30 минути по бизнес проект