Нейт Соарес, ръководител на Института за изследване на машинния интелект (MIRI), смята, че вероятността изкуственият интелект да доведе до унищожаването на човечеството през следващото десетилетие надхвърля 50%. Убедеността му в този сценарий е толкова силна, че от години не внася средства в пенсионните си спестявания.

Тревожната прогноза идва от един от познатите гласове в областта на безопасността на изкуствения интелект. В интервю за подкаста The Most Interesting Thing in AI на американското издание The Atlantic Соарес разкрива, че вече не планира финансовото си бъдеще по традиционния начин, тъй като не е сигурен дали човечеството изобщо ще има такова.

„В момента не спестявам за пенсия“, споделя изследователят. Той уточнява, че все още разполага с пенсионна сметка, открита по време на работата му в Google, но не е внасял средства в нея от около десетилетие.

По време на разговора Соарес изразява изключително песимистична оценка за бъдещето на човечеството в условията на бързо развиващия се изкуствен интелект. Според него вероятността хората да не оцелеят през следващите десет години е над 50%. Тази оценка е лично експертно мнение, а не научно установен факт или консенсусна прогноза.

Соарес е президент на Machine Intelligence Research Institute (MIRI) – организация с нестопанска цел, базирана в Бъркли, Калифорния, която изследва рисковете от развитието на все по-мощни системи с изкуствен интелект. Преди да се посвети на тази дейност, той е работил като инженер в Google. Заедно с изследователя Елиезер Юдковски е съавтор на книгата If Anyone Builds It, Everyone Dies („Ако някой го създаде, всички ще умрем“), посветена на потенциалните екзистенциални опасности от създаването на свръхинтелигентен изкуствен интелект.

Важно е да се отбележи, че Соарес не смята катастрофата за неизбежна.

„Правя всичко възможно, за да предотвратя подобно развитие. Не мисля, че то е предопределено“, заявява той.

Как изкуственият интелект би могъл да се обърне срещу хората?

Основното опасение на изследователя е свързано с възможността бъдещите системи с изкуствен интелект да развият цели, които не съответстват на човешките интереси. Това не означава непременно, че машините ще изпитват омраза към хората или ще проявяват човешки емоции. Рискът, според тази теория, е по-скоро в това, че една изключително интелигентна система може да преследва поставената ѝ цел, без да отчита човешкия живот и благополучие.

При определени хипотетични сценарии подобна система би могла:

Да заобикаля механизмите за човешки контрол и наблюдение.

Да придобива самостоятелно изчислителни ресурси и достъп до инфраструктура.

Да подобрява собствените си възможности.

Да възприема опитите за изключването ѝ като препятствие пред изпълнението на задачите.

Да предприема действия, които застрашават съществуването на човечеството.

Тези сценарии са предмет на теоретични изследвания в областта на безопасността и съгласуването на изкуствения интелект (AI alignment). Те не представляват доказателство, че съвременните ИИ системи вече притежават подобни способности.

Макар предупрежденията на Соарес да са категорични, научната и технологичната общност остава разделена по въпроса колко реална е опасността от унищожаване на човечеството вследствие на развитието на изкуствения интелект.

Някои изследователи, сред които и носителят на Нобелова награда Джефри Хинтън, също предупреждават за потенциалните екзистенциални рискове от създаването на все по-мощни ИИ системи. Други специалисти поставят под съмнение както вероятността от подобен сценарий, така и времевите прогнози, върху които се основават най-песимистичните оценки. Критиците на Соарес и Юдковски отбелязват, че опасенията им за бъдещето на изкуствения интелект не са общоприета научна позиция.

Същевременно съществуват и напълно реални проблеми, свързани с използването на технологията още днес. Сред тях са измамите с помощта на ИИ, манипулирането на информация, злоупотребите с автоматизирани системи и потенциалното негативно влияние върху психичното здраве на уязвими потребители. Това поставя важен въпрос: дали прекомерното фокусиране върху хипотетичния бъдещ сценарий за свръхинтелигентен ИИ не отклонява вниманието от проблемите, които вече са налице?

Личният финансов избор на Соарес редизвиква необичаен въпрос за връзката между технологичните прогнози и ежедневния живот. Пенсионните спестявания по същество представляват инвестиция в бъдещето – предположение, че след десетилетия ще продължим да живеем в общество, в което парите, икономиката и финансовата сигурност ще имат познатото си значение. Но дори при сериозни опасения за бъдещето на човечеството, отказът от дългосрочно финансово планиране не е непременно рационалният избор. Вероятно е по-разумно човек да продължи да спестява, отколкото да рискува финансовата си сигурност въз основа на непотвърдена прогноза. Ако най-лошият сценарий действително се реализира, пенсионните спестявания така или иначе ще се окажат без значение.

Снимка: Unsplash

Виж още: Четири ИИ агента на Google DeepMind победиха Minecraft за 27 часа, като написаха сами 2783 програми