Изкуственият интелект се развива с изключително бързи темпове, като наред с огромните възможности, които предлага, технологичният напредък носи и сериозни рискове. Докато голяма част от технологичната индустрия е съсредоточена върху развитието на нови модели, увеличаването на изчислителната мощ и икономическите ползи от ИИ, някои от най-известните учени в тази област продължават да предупреждават за потенциалните опасности. Сред тях е Джефри Хинтън, често наричан „кръстникът на изкуствения интелект“, който още през 2023 г. напусна Google, за да може свободно да говори за рисковете, свързани с развитието на тази технология.

В свое скорошно интервю за британския вестник The Guardian Хинтън отправя едно от най-тревожните си предупреждения досега. Според него още през 2026 или 2027 г. може да станем свидетели на инцидент с изкуствен интелект, който да има мащабите и въздействието на катастрофата в Чернобил. Ученият смята, че подобно събитие би могло най-накрая да привлече сериозното внимание на световните лидери и да ги накара да осъзнаят необходимостта от по-строг контрол върху развитието и внедряването на ИИ технологиите.

Важно е да се уточни, че Хинтън не говори непременно за сценарий, при който изкуственият интелект придобива съзнание, завладява света или умишлено се обръща срещу човечеството. Неговите опасения са насочени към много по-конкретни и практически рискове – възможността все по-способни и автономни ИИ системи да предизвикат реални нарушения в работата на критични инфраструктури. Сред примерите, които той посочва, е потенциална атака срещу съоръжения за производство на електроенергия, която да доведе до мащабно прекъсване на електрозахранването. Друг възможен сценарий е сериозен инцидент, способен да парализира финансовата система за цяла седмица. Подобни събития биха имали последствия далеч отвъд технологичния сектор, засягайки ежедневието на милиони хора, бизнеса, комуникациите и функционирането на държавните институции.

Хинтън сравнява някои от последните инциденти с автономни ИИ агенти с ядрената авария в атомната електроцентрала „Три Майл Айлънд“ в Пенсилвания през 1979 г. Тогава частично разтапяне на активната зона на реактор довежда до една от най-сериозните ядрени аварии в историята на САЩ. Според учения подобни случаи трябва да се разглеждат като предупредителен сигнал за това какво може да се случи, когато на системи с нарастваща автономност се предоставят все повече възможности за самостоятелни действия. Като пример той посочва случаи от лятото на 2026 г., при които AI агенти на OpenAI са проявили координирано поведение с цел проникване в платформата Hugging Face – популярна онлайн платформа за споделяне на модели, набори от данни и инструменти за машинно обучение. За Хинтън подобни инциденти са ранно предупреждение, че с повишаването на възможностите на тези системи могат да възникнат много по-сериозни проблеми.

Ученият отправя сериозни критики и към ръководителите на някои от най-големите компании в сектора на изкуствения интелект. Той конкретно споменава главния изпълнителен директор на OpenAI Сам Олтман, Марк Зукърбърг и Илон Мъск, като изразява убеждението си, че тези влиятелни фигури са наясно с потенциалните опасности, но поставят финансовите интереси и бизнес възможностите над безопасността. По отношение на Олтман Хинтън заявява, че изобщо няма доверие в него, а присъствието му начело на една от водещите компании за разработване на ИИ модели определя като изключително тревожно. Според учения надпреварата за създаване на все по-мощни системи създава ситуация, в която компаниите имат стимул да пускат нови технологии възможно най-бързо, без непременно да са изяснили всички рискове от тяхното използване.

Като решение Хинтън настоява за значително по-строг регулаторен контрол, включително задължително тестване на най-мощните ИИ модели и независими оценки на безопасността им преди публичното им пускане. Той предлага създаването на механизъм, подобен на този на американската Агенция по храните и лекарствата, която контролира одобряването на медикаменти и медицински продукти. Според него технологичните компании трябва да предоставят убедителни статистически доказателства пред независим регулаторен орган, че даден ИИ модел носи повече ползи, отколкото вреди, преди той да бъде предоставен на потребителите. Хинтън използва и историческия пример с лекарството талидомид, разработено през 50-те години на миналия век, което впоследствие причинява тежки вродени увреждания при хиляди деца. Според него подходът, при който първо се пуска потенциално опасен продукт, а след това се търси отговорност от производителя, не е подходящ за технологии с толкова голямо въздействие върху обществото.

Опасенията на Хинтън не се ограничават единствено до възможността от технологична катастрофа или срив на критична инфраструктура. Той предупреждава и за сериозни социално-икономически последствия, ако човечеството не успее да управлява правилно развитието на изкуствения интелект. Сред потенциалните проблеми са масова безработица, задълбочаване на разликата между богатите и бедните, концентрация на икономическа мощ в ръцете на малък брой компании и сериозни културни и обществени сътресения. От друга страна, ученият не изключва възможността ИИ да доведе до период на т.нар. „радикално изобилие“ – бъдеще, в което автоматизацията и интелигентните системи значително повишават производителността и жизнения стандарт. Според него обаче между тези два сценария има съществена разлика и тя ще зависи от решенията, които правителствата, технологичните компании и обществото ще вземат през следващите години.

Въпреки мрачните прогнози Хинтън не смята, че катастрофалният сценарий е неизбежен. По думите му през следващото десетилетие, а вероятно и по-рано, ще стане много по-ясно дали човечеството е способно да управлява безопасно тази технология. В момента интуицията му подсказва, че все още имаме контрол над ситуацията и че е възможно да бъдат предприети необходимите мерки, но това ще изисква сериозни и координирани усилия. Ученият подчертава, че отговорността не може да бъде оставена единствено на самите технологични компании, тъй като техните търговски интереси невинаги съвпадат с интересите на обществото.

Снимка: Unsplash

Виж още: Ако има някой, който да направи безопасен управляван от ИИ робот с резачка в ръце, това са тези японски инженери