Играч на Го успя да победи високопоставена AI система, след като се възползва от слабост, открита от втори компютър, съобщи The Financial Times. Използвайки недостатъка, американецът Келин Пелрин победи системата KataGo решително, спечелвайки 14 от 15 игри без допълнителна компютърна помощ. Това е рядка победа за хората след забележителното постижение на AlphaGo през 2016 г., която помогна да се проправи пътят за настоящата мания за постиженията на изкуствения интелект. Случаят също така показва, че дори и най-напредналите AI системи могат да допускат грешки.

Победата на Перлин стана възможна с помощта на изследователска компания, наречена FAR AI, която разработи програма за изследване на слабости в KataGo. След като изигра повече от милион игри, той успя да намери слабост, която може да бъде използвана от прилично добър играч аматьор. „Не е напълно тривиално, но не е и супер трудно“ за научаване, каза Пелрин. Той използва същия метод, за да победи Leela Zero, който е друг топ AI алгоритъм за Го.

Ето как работи: целта е да създадете голяма „примка“ от камъни, за да обградите групата на противника, след което да отвлечете вниманието на компютъра, като правите движения в други области на дъската. Дори когато групата му беше почти обградена, компютърът не успя да забележи стратегията. „Като хора би било доста лесно да го забележим“, коментира Пелрин, тъй като обкръжаващите камъни ясно се открояват на дъската.

Недостатъкът показва, че AI системите не могат наистина да „мислят“ отвъд своето обучение, така че често правят неща, които изглеждат невероятно глупави за хората. Виждали сме подобни неща с ботове за чат като този, използван от търсачката Bing на Microsoft. Въпреки че беше добър в повтарящи се задачи като изготвяне на маршрут за пътуване, той също така даде неправилна информация, упрекна потребителите, че си губят времето и дори показа „независимо“ поведение – вероятно поради моделите, на които е обучен.

Lightvector (разработчикът на KataGo) със сигурност е наясно с проблема, който играчите експлоатират от няколко месеца. В публикация в GitHub се казва, че компанията работи върху корекция за различни видове атаки, които използват експлойта.

Снимка: Unsplash

Виж още: Microsoft ограничи разговорите с Bing, за да намали стряскащите отговори