За много хора чатботовете с изкуствен интелект са просто инструменти за достъп до информация и проучване на различни теми. Тези ИИ инструменти обаче имат и силна способност да влияят на човешките емоции, което може да доведе до сериозни последствия, като самонараняване или самоубийство. В резултат на това китайските регулаторни органи предприеха мерки за ограничаване на способността на ИИ чатботовете да влияят на човешките емоции.

Администрацията за киберпространството на Китай предложи ново законодателство, което да предотврати ИИ чатботовете да оказват значително влияние върху емоциите на потребителите чрез текст, изображения, аудио или видео. Законопроектът е насочен към „човекоподобни интерактивни ИИ услуги“, достъпни на територията на Китай, където използването им може потенциално да насърчи потребителите да извършат самоубийство или самонараняване.

Законопроектът предлага ИИ чатботовете да не генерират съдържание, което насърчава самоубийството или самонараняването, нито да се ангажират с вербална злоупотреба или емоционална манипулация. Освен това тези инструменти не трябва да произвеждат съдържание, свързано с хазарт или насилие. Непълнолетните също трябва да имат съгласието на настойника си, за да използват ИИ за емоционално общуване.

Една от най-необичайните предложени мерки е, че компаниите, които стоят зад чатботовете с изкуствен интелект, трябва да имат човек, който да се намесва в разговора и незабавно да се свърже с настойника на потребителя или с определено лице, ако потребителят изрази изрично намерение за самоубийство. Като се има предвид големият брой потребители на чатботове с изкуствен интелект в Китай и възможността за грешки във всяка система, това изискване може да бъде трудно за изпълнение.

Законопроектът включва и няколко други изисквания, сред които технологичните доставчици трябва да напомнят на потребителите след 2 часа непрекъснато взаимодействие с изкуствен интелект, а платформите трябва да могат да определят дали даден потребител е непълнолетен.

Китай е сред първите страни в света, които регулират емоционалните взаимодействия между ИИ инструменти и хора. Тъй като все повече потребители развиват дълбоки емоционални връзки с чатботове и тези инструменти дори започват да заменят терапевтите, това е ход с добри намерения. Въпреки това, неговото прилагане може да се сблъска със значителни предизвикателства.

Снимка: Pexels

Виж още: Samsung The Premiere 5 – когато проекторът се превръща в интелигентния център на дома (РЕВЮ)