Изкуственият интелект може да бъде агресивен

В края на миналата година знаменитият физик Стивън Хокинг предупреди, че по-нататъшното развитие на изкуствения интелект ще бъде „най-доброто или най-лошото от това, което се е случило с човечеството“. Всички сме гледали филма „Терминатор“ и помним апокалиптичния кошмар, който ни устрои системата „Скайнет“, като сега резултатите от неотдавнашните тестове на DeepMind ни дават да разберем колко внимателни трябва да бъдем при създаването на роботите от бъдещето.

За целта Google създаде две игри - Gathering и Wolfpack. В първата два изкуствени интелекта събират ябълки. Целта на играта е да се събере най-голямо количество ябълки, както и възможността временно съперникът да бъде изваден извън игра чрез изстрел с лазер по него. Докато плодовете са много ИИ са ги събирали, без да възниква конфликт помежду им, и са го правели с еднаква скорост. Но след като ябълките започнали да привършват, DeepMind започнали да използват лазера. Тук е времето да споменем, че по ранните версии на ИИ не са го ползвали, тъй като това е било доста сложно за тях, избирайки простичката стратегия на събиране на ябълките и стигайки до абсолютно равенство.
В играта Wolfpack двама ИИ участници е трябвало да уловят трети, преминавайки през различни препятствия, като по време на гонката „ловците“ е трябвало да си сътрудничат помежду си, за да уловят третия – тук DeepMind не е изпитал никаква сложност в съгласуването на действията си.
По този начин учените са стигнали до извода, че развитият ИИ в зависимост от целите, които са поставени пред него, е способен както да сътрудничи, така и да проявява агресия.