Илон Мъск е сигурен, че рискът от изкуствен интелект си заслужава, дори ако има шанс 1 към 5 технологията да се обърне срещу хората.

Говорейки на семинара "Големият дебат за ИИ" по време на четиридневната среща на върха Abundance Summit по-рано този месец, Мъск преизчисли предишната си оценка на риска за технологията, като каза: "Мисля, че има някакъв шанс тя да сложи край на човечеството. Вероятно съм съгласен с Джеф Хинтън, че той е около 10 или 20%, или нещо подобно".

Но добави: "Мисля, че вероятният положителен сценарий надделява над отрицателния".

Мъск не споменава как е изчислил риска. Роман Ямполски, изследовател на безопасността на изкуствения интелект и директор на Лабораторията за киберсигурност в Университета в Луисвил, казва пред Business Insider, че Мъск е прав, като казва, че изкуственият интелект може да представлява екзистенциален риск за човечеството, но "ако има нещо друго, той е малко прекалено консервативен" в оценката си.

"Действителното p(doom) според мен е много по-високо", каза Ямплоски, като се позова на "вероятността за гибел" или вероятността ИИ да поеме контрола над човечеството или да предизвика събитие, което да сложи край на човечеството, като например създаване на ново биологично оръжие или предизвикване на колапс на обществото вследствие на мащабна кибератака или ядрена война.

Ню Йорк Таймс нарече p(doom) "болезнената нова статистика, която обхваща Силициевата долина", като различни технологични ръководители, цитирани от изданието, имат оценки, вариращи от 5 до 50% вероятност за апокалипсис, предизвикан от ИИ. Според Ямплоски рискът е 99.999999%.

Според Ямплоски, тъй като е невъзможно да контролираме напредналия изкуствен интелект, единствената ни надежда е изобщо да не го създаваме.

"Не съм сигурен защо той смята, че е добра идея да се преследва тази технология все пак", добави Ямплоски. "Ако се притеснява, че конкурентите ще стигнат първи, това няма значение, тъй като неконтролираната свръхинтелигентност е еднакво лоша, независимо кой ще я накара да се появи."

През ноември 2023 г. Мъск заяви, че има "не нулев" шанс технологията да се окаже "лоша", но не стигна дотам да каже, че вярва, че ако това се случи, технологията може да доведе до край на човечеството.

Въпреки че е защитник на регулирането на изкуствения интелект, миналата година Мъск основа компания, наречена xAI, посветена на по-нататъшното разширяване на мощта на технологията. xAI е конкурент на OpenAI - компания, която Мъск основа заедно със Сам Алтман, преди Мъск да се оттегли от борда през 2018 г.

Мъск изчисли, че до 2030 г. цифровата интелигентност ще надмине цялата човешка интелигентност. Макар да твърди, че потенциалните позитиви са повече от негативите, милиардерът призна риска за света, ако развитието на ИИ продължи по сегашната си траектория, с едни от най-директните термини, които е използвал публично.

Снимка: Unsplash

Виж още: Най-опасното растение в света може да предизвика мисли за самоубийство, след като някой го докосне