Двама разработчици са използвали модела за генериране на изображения DALL-E 2 на OpenAI, за да създадат програма, която може да създаде „хиперреалистични“ полицейски скици на заподозрян въз основа на информация от потребителя.

Програмата, наречена Forensic Sketch AI-rtist, е създадена от разработчиците Артур Фортунато и Филипе Рейно като част от хакатон през декември 2022 г. Разработчиците пишат, че целта на програмата е да намали времето, което обикновено отнема на полицията, за да нарисува заподозрян за престъпление, което е „около два до три часа“.

„Все още не сме пуснали продукта, така че в момента нямаме активни потребители“, казаха Фортунато и Рейно на Motherboard в общ имейл. „На този етап все още се опитваме да потвърдим дали този проект би бил жизнеспособен за използване в сценарий от реалния свят или не. За тази цел планираме да се свържем с полицейските управления, за да имаме входни данни, върху които можем да тестваме това.“

Етици и изследователи на AI коментират, че използването на генеративен AI в полицейската криминалистика е невероятно опасно, с потенциал да влоши съществуващите расови и полови пристрастия, които се появяват в първоначалните описания на свидетели.

„Проблемът с традиционните криминалистични скици не е, че те отнемат време за създаване (което изглежда е единственият проблем, който тази програма за съдебномедицински скици се опитва да реши). Същевременно всяка криминалистична скица вече е обект на човешки пристрастия и крехкостта на човешката памет“, казва Дженифър Линч, директор по съдебни спорове за наблюдение на Electronic Frontier Foundation, пред Motherboard. „AI не може да поправи тези човешки проблеми и тази конкретна програма вероятно ще ги влоши още повече чрез самия си дизайн.“

Програмата изисква от потребителите да предоставят информация или чрез шаблон, който изисква описание на пол, цвят на кожата, вежди, нос, брада, възраст, коса, очи и челюст, или чрез функцията за отворено описание, в която потребителите могат да въвеждат всяко описание, което имат на заподозрения. След това потребителите могат да кликнат върху „генериране на профил“, което изпраща описанията към DALL-E 2 и създава генериран от AI портрет.

„Изследванията показват, че хората запомнят лицата холистично, а не черта по черта. Процесът на скициране, който разчита на индивидуални описания на функции като тази AI програма, може да доведе до лице, което е поразително различно от това на извършителя“, казва Линч. „За съжаление, след като свидетелят види композицията, този образ може да замени в съзнанието им мъглявия им спомен за действителния заподозрян. Това само се влошава от изображение, генерирано от AI, което изглежда „по-реално“ от ръчно нарисувана скица.“

Създаването на хиперреалистични профили на заподозрени би било особено вредно за тъмнокожите и латиноамериканците, като представители на първата група са пет пъти по-вероятно да бъдат спрени от полицията без причина, отколкото бял човек. Цветнокожите също са по-вероятно да бъдат спрени, претърсени и заподозрени в престъпление дори когато престъпление не е извършено.

„Ако тези съдебномедицински скици, генерирани от изкуствен интелект, някога бъдат пуснати на обществеността, те могат да засилят стереотипите и расовите пристрастия и могат да попречат на разследването, като насочат вниманието към хора, които приличат на скицата, вместо към действителния извършител“, каза Линч, добавяйки, че погрешното разпознаване на очевидци е допринесло за 69% от неправомерните присъди, които по-късно са били отменени от ДНК доказателства в САЩ. Като цяло фалшивите или подвеждащи криминалистични данни – включително полицейски скици – са допринесли за почти 25% от всички неправомерни присъди в САЩ.

Снимка: Forensic Sketch AI-rtist

Виж още: Опасен експеримент с виртуална принуда кара ChatGPT да наруши собствените си правила