Човечеството не обича, когато неговото първенство на върха на хранителната верига е заплашено. За да минимизира опасността от нежелан възход на изкуствения интелект, Google ще разработи система, която позволява с натискане на бутон да се предотврати потенциална опасност от своеволията на AI мрежата.
AI подразделението Deep Mind се е заело със задачата да създаде система, която не позволява на изкуствения интелект да научи как да предотврати човешка намеса, имаща за цел да го спре от правенето на нещо. С други думи, ако човек иска да зададе нов курс на поведение, роботизираната система ще трябва да се подчини, вместо да преценява сама дали той е правилен или не.
В основата на механизма е идеята за приоритизиране на задачите, където върховенство имат хората. Deep Mind дава следния пример - робот подрежда товари в склад и периодично внася нови кашони отвън. Внасянето се счита за по-важната задача и изкуственият интелект ѝ дава приоритет. Навън обаче вали силен дъжд и е необходима човешка намеса, която да предотврати повредата на робота. Въпреки че налице е външна намеса, която противоречи на заданието му, изкуственият интелект се съобразява с нея и приема, че актуализираната човешка команда е част от задачата, а не неправомерна намеса.
Виж още: Google иска да провери дали компютрите могат да бъдат творци
Още по темата
Коментари (0)
Още от HiEnd
Препоръчано
Може Да Харесате
Избрано от редактора
Селекция от статии и ревюта от редакторите на HiComm
