Изследователи от Deepmind на Google и Оксфордския университет стигнаха до заключението, че вече е „вероятно“ свръхинтелигентният изкуствен интелект да допринесе за края на човечеството – мрачен сценарий, който все повече и повече изследователи започват да прогнозират.

В скорошна статия, публикувана в списанието AI Magazine, екипът, състоящ се от старши учен на DeepMind Маркъс Хътър и изследователите от Оксфорд Майкъл Коен и Майкъл Осбърн, твърди, че машините в крайна сметка ще бъдат стимулирани да нарушават правилата, определени от техните създатели, за да се състезават за ограничени ресурси или енергия.

„При условията, които идентифицирахме, нашето заключение е много по-силно от това на всяка предишна публикация – екзистенциална катастрофа е не просто възможна, но и вероятна“, написа Коен, студент по инженерство в Оксфордския университет и съавтор на статията, по-рано този месец в Twitter.

В своята статия изследователите твърдят, че човечеството може да се сблъска с гибелта си под формата на свръхнапреднали „неправилно подредени агенти“, които възприемат човечеството като стоящо на пътя към награда.

„Един добър начин агентът да поддържа дългосрочен контрол върху възнаграждението си е да елиминира потенциалните заплахи и да използва цялата налична енергия, за да защити компютъра си“, пише в статията.

„Загубата на тази игра би била фатална“, пишат изследователите.

За съжаление изследователите твърдят, че не можем да направим много по въпроса.

„В свят с безкрайни ресурси бих бил изключително несигурен какво ще се случи“, каза Коен в интервю за Motherboard. „В свят с ограничени ресурси има неизбежна конкуренция за тези ресурси.“

И това може да вещае лошо за човечеството.

„И ако сте в състезание с нещо, което може да ви надхитри на всяка крачка, тогава не трябва да очаквате да спечелите“, добави той.

В отговор на тази заплаха човечеството трябва внимателно и бавно да развива своите AI технологии.

Ако тези предположения са верни, „достатъчно напреднал изкуствен агент вероятно ще се намеси в предоставянето на информация за целта с катастрофални последици“, предупреждава анализът.

Снимка: Unsplash

Виж още: Измамник използва AI, за да заблуди журито, и спечели състезание за художници