Последният антиутопичен AI кошмар току-що се появи и повдига много въпроси, на които абсолютно не се отговаря от съобщението за случката в социалните медии.

Както съобщава The Times of London, Китайският всеобхватен национален научен център „Хефей“ обяви разработването на програма, включваща „изкуствен интелект, който дава възможност за изграждане на партийни структури“, миналата седмица в публикация в Weibo, втората по големина социална медийна платформа в страната.

В навечерието на годишнината на Китайската комунистическа партия, отбелязвана на 1 юли, центърът „Хефей“ каза в текста на вече изтритата публикация, който беше транскрибиран и преведен от Радио Свободна Азия, че новата му програма ще облекчи „проблема“ с „гарантирането на качеството на партийно-членската дейност“.

С други думи, въпреки че много подробности остават неясни, този изкуствен интелект може да определи лоялността на членовете на партията.

„Това оборудване е вид интелигентна идеология, използваща AI алгоритъм за извличане и интегриране на изражения на лицето, показания на ЕЕГ и проводимост на кожата“, се казва в превода на RFA на първоначалната публикация в Weibo, „което прави възможно да се установят нивата на концентрация, разпознаване и майсторство на идеологическото и политическо образование, за да разберем по-добре неговата ефективност“.

Според The Times of London оборудването е тествано чрез четене на мозъчни вълни и анализиране на лицеви сканирания, докато субектите четат статии за ККП, което след това се превежда като „резултат“ за лоялност. И да, това звучи доста противоречиво.

Ако тази история предизвиква тревога, има основателна причина – концепцията за четящо мисли политическо устройство с изкуствен интелект, което тества лоялността към партията и страната, звучи по-скоро като нещо от романа „1984“, отколкото като действителност, която искаме да видим през 2022 г.

Разбира се, Китай няма монопол върху зловещия изкуствен интелект.

От многото проблеми с полицейското използване на софтуер за разпознаване на лица до нов алгоритъм, който според съобщенията може да „предсказва“ бъдещи престъпления, разработен от Чикагския университет, до често дискриминационните AI алгоритми, използвани за определяне дали някой отговаря на условията за заем или не, AI е вече се промъква в живота на много хора по инвазивен и тоталитарен начин.

И да, разработването на изкуствен интелект, който използва биометрични данни, за да прецени доколко някой е лоялен към дадена партия или нация, наистина изглежда като страхотен инструмент за политическа репресия - и няма причина да вярваме, въпреки обещанията на различните министерства и органи да не използват AI неетично, че ако и когато китайците усъвършенстват тази технология, други държави няма да я купуват за себе си и за техните съюзници.

Снимка: Unsplash

Виж още: 16 полезни хакa за умния ви телевизор, за които не подозирате