DeepMind сблъска два изкуствени интелекта, за да видим как ще реагират

Научното звено DeepMind, което е собственост на Google, проведе интересен експеримент, свързан с поведението на изкуствения интелект. В бъдеще, в което AI технологиите ще навлизат все повече във всички сфери на живота ни, е особено важно да знаем какво ще се случи, ако командите на един изкуствен интелект влязат в конфликт с тези на друг. Ще се сблъскат ли машините, или ще си сътрудничат?

За да провери това, DeepMind поставя AI агентите в поредица от "социални дилеми", използвайки т.нар. дилема на затворника. Тя е психологически модел на поведение, намиращ приложение в икономиката, международните отношения и др.

Същността на дилемата е, че двама души, извършили престъпление, са заподозрени и биват разпитвани в отделни помещения. Ако и двамата мълчат, при липса на доказателства няма да бъдат осъдени, т.е. ще спечелят. Дилемата обаче на всеки от тях двамата е следната: „Ако аз си мълча, а другият си признае, то той ще получи по-малка присъда, защото съдейства на правосъдието, a аз ще имам по-тежка присъда, защото не съм признал“. Има обаче и трети вариант - ако и двамата признаят, и двамата ще бъдат осъдени.

Всеки от тях може да избере да си мълчи и да се надява и другият да мълчи или да си признае (за да има по-малка присъда) и да се надява другият да упорства с мълчание.

Това, което учените установили, е, че изкуственият интелект променя поведението си според ситуацията, ставайки по-кооперативен или агресивен. Определящи са правилата, в рамките на които действат AI агентите. Ако тези правила награждават агресивното поведение, AI агентът ще бъде по-агресивен; ако награждават поведението на сътрудничество, AI агентите ще бъдат по-кооперативни.

На практика това означава, че едно от основните предизвикателства пред начина, по който контролираме изкуствения интелект в бъдеще, е да формулираме и прилагаме правилните правила, пише The Verge.

"От това изследване вече разбираме по-добре как да контролираме комплексни системи от изкуствен интелект, които управляват икономиката, трафика или екологията в даден район. Водещо на всички нива си остава продължителното сътрудничество", обобщават учените.

Виж още: Математик твърди, че знае как да укроти всяко едно цунами