Алгоритмите за разпознаване на лица се подобряват всяка година с бързи темпове, но те далеч не са перфектни. Примерен случай: Съюзът за американски граждански свободи заяви, че в теста за повторното познаване на Amazon услугата Rekognition погрешно идентифицира 28 членове на Конгреса като престъпници.

ACLU достави на Rekognition 25 000 снимки от "публичен източник" и услугата на Amazon ги сравни с официалните снимки на членовете на Конгреса. Сред представителите, които са идентифицирани погрешно, са шестима чернокожи, включително активистът по гражданските права Джон Люис, а 11 от 28-те фалшиви сигнала - приблизително 38 процента - са цветнокожи хора, които съставляват само 20 процента от настоящи членове на Конгреса.

Джейкъб Сноу, адвокат по гражданските свободи на ACLU, каза пред членовете на медиите, че тестът е проведен за по-малко от 13 долара.

"Едно от нещата, които са опасни за представянето на тази информация в контекста на правоприлагането, е, че може да има разлики - в осветлението, в ъглите, във възрастта - затова наистина може да бъде трудно да се каже само въз основа на снимките, че те са едно и също лице", казва Сноу пред Mashable. "Разпознаването на лице има възможността да предложи на правоприлагащия орган, че има съвпадение. И тогава има голяма вероятност или поне разумна вероятност, че правоприлагащият орган ще се довери на системата и няма да прилага същото ниво на скептицизъм."

Констатациите на ACLU не са напълно изненадващи. Технологиите за разпознаване на лица са податливи на расови пристрастия, показват изследвания. Проучване от 2011 г. установи, че системите, разработени в Китай, Япония и Южна Корея, са имали по-големи трудности при разграничаването на белите лица от източноазиатците. И в отделно проучване, проведено през 2012 г., алгоритмите за разпознаване на лица на Cognitec извършиха 5 - 10% повече грешки за чернокожите, отколкото за белиите.

Но говорител на Amazon казва, че тестът на ACLU вероятно е изкривен от лошо калибриране и настройки. Той използва прага на доверие - т.е. вероятността дадена прогноза да е вярна - от 80%, което е по-ниско от онези 95%, препоръчани от Amazon за правоприлагащи органи, ползващи Rekognition.