По-рано тази година Blizzard въведе система за борба с онлайн хулиганите в Overwatch и тя вече има ефект: геймърите я ползват често, а обидните съобщения са намалели със 17 процента. Сега е ред на следващата стъпка: компанията иска не просто да наказва, а да предотвратява токсичното поведение и за това ще ѝ помогне изкуственият интелект.

"Експериментираме с машинно обучение и се опитваме да научим самата игра да разпознава обидното поведение. Идеята е, че не трябва да чакаме вие да докладвате нещо такова, а ние да го уловим веднага", разказва директорът на шутъра Джеф Каплан.

За целта Blizzard учи изкуствения интелект на езици, различни от английския, за да може той да се научи да идентифицира хулигани от цял свят. За начало компанията иска системата да подгони най-явните случаи - тези, които със сигурност заслужават наказание. Друг вариант е AI първо да предупреждава, а да наказва при второ провинение.

Пред машинното обучение има и още едно предизвикателство, което е дори по-голямо - как да разпознава доброто поведение и да го поощрява. А това наистина е трудно. Но Каплан е убеден, че с времето може да стане.

"Наказването на лошите не е достатъчно, без да учим играчите как да бъдат добри", счита той.