Не роботи убийци, а лошо подадени данни са най-голямата AI опасност

Шефът на изкуствения интелект в Google не се притеснява от създаването на суперинтелигентни роботи убийци. Вместо това Джон Джанандреа мисли повече за опасността, която се спотайва в алгоритмите на машинното обучение, които се ползват за взимането на милиони решения всяка минута.

"Истинският въпрос за безопасността е, че ако дадем на тези системи субективни данни, те също ще бъдат субективни", обяснява Джанандреа по време на конференция за връзката между хората и AI системите.

Проблемът за субективността и пристрастността на машините става все по-голям с разпространението на технологиите в критични области като здравеопазване, право и др. Много хора без добро технологично разбиране за особеностите на изкуствения интелект започват да работят с такива системи и според някои експерти, дори в момента субективността при алгоритмите е факт в много сфери и никой не полага усилия да поправи това.

"Важно е да бъдем отговорни и прозрачни при работата си с данни, в противен случай просто създаваме пристрастни системи", продължава Джанандреа.

Що се отнася до опасността от AI революция, той е доста по-умерен.

"Възразявам на предположението, че ще достигнем до някаква супер интелигентна система, която ще ни направи непълноценни и морално остарели", изтъква Джанандреа. "Разбирам защо хората се притесняват от това, но не виждам никакво технологично основание за подобно крайно твърдение."