В нов експеримент във виртуална реалност изследователи дадоха на два ИИ асистента еднакъв „мозък“, еднакви способности и еднаква задача. Единият изглеждаше и звучеше като мъж, а другият – като жена. След това помолиха 189 служители да работят с асистентите и да решат каква сума да им определят като възнаграждение. ИИ асистентът от мъжки пол получи по-високо заплащане.

Според прессъобщението на изследователите, в експеримент с участието на 189 служители, участниците са възнаградили Йохана с около 10% по-малко в сравнение с Йохан. Тази тенденция се е наблюдавала както при мъжете, така и при жените, въпреки че помощниците са използвали една и съща базова технология.

Експериментът е проведен от изследователи от Университета в Цюрих, Университета в Лимерик и бизнес училището SKEMA.

Те са наели 189 специалисти, работещи с информация, и са ги поставили в офис във виртуална реалност, използвайки VR очила. Всеки участник е трябвало да си представи, че работи за измислена компания на име HARCOM. Задачата им е била да предложат идеи за използване на изкуствен интелект във виртуалната работна среда с цел подобряване на благосъстоянието на служителите, насърчаване на приобщаването и улесняване на сътрудничеството. За да им помогнат, изследователите са предоставили няколко ИИ помощника: стандартен текстов чатбот, малък виртуален робот за бюро и помощник с човешки облик.

Антропоморфните асистенти се предлагаха в два варианта. Йохан имаше мъжки външен вид и глас, докато Йохана притежаваше женски характеристики. И двата бяха задвижвани от един и същ базов езиков модел – по-ранна версия на GPT-4 на OpenAI. Всеки участник работи с робота и чатбота, но само с един от двата антропоморфни аватара. Приблизително половината от участниците си взаимодействаха с Йохан, а другата половина – с Йохана. След приключване на всяка задача участниците оценяваха степента на надеждност и човекоподобност на своя асистент, както и приноса му към работата.

Участниците можеха да отделят до четири швейцарски франка (около 5 долара), за да възнаградят асистента за приноса му. Сумата, която не отделяха, оставаше за тях самите. Парите, предназначени за изкуствения интелект, всъщност отиваха за неговото развитие.

Асистентът с мъжки облик се оказа по-предпочитан.

Сред участниците, чиито финансови решения подлежаха на анализ, Йохан получи средно възнаграждение от 2,96 швейцарски франка. Йохана получи 2,54 франка. Йохан също така бе възприет като по-човечен, получавайки оценка 5,09 по седемстепенна скала, докато Йохана получи 4,59.

„Впечатляващото в нашите резултати е, че технологията, стояща зад тези агенти с изкуствен интелект, беше напълно еднаква, но хората не се отнасяха към тях по един и същи начин“, заявява Мери Хаусфелд от Университета в Лимерик, съавтор на изследването.

„Често възприемаме изкуствения интелект като неутрален, но начинът, по който проектираме и представяме тези системи, може да активира същите предположения и предразсъдъци, които съществуват при взаимодействията ни с други хора.“

Може би най-поразителното откритие се появи след самия експеримент.

Изследователите разговаряха с 34 участници относно техните преживявания и предпочитания. От тях 30 заявиха, че биха се доверили на ИИ асистент и биха го възнаградили по един и същи начин, независимо от пола му. Разпределението на средствата обаче разкри съвсем друга картина.

В интервю, публикувано от Цюрихския университет, съавторът на изследването Томас Фриц изказва предположение, че това несъответствие може да се дължи на своеобразно несъзнавано „сляпо петно“: хората може искрено да вярват, че полът не трябва да има значение, без да си дават сметка как социалните сигнали влияят на решенията им.

Онова, което хората съзнателно са искали, представите им за самите тях и реалното им поведение невинаги съвпадат.

Разбира се, констатациите имат и своите съществени ограничения.

Става дума за сравнително малък, контролиран експеримент във виртуална реалност, а не за наблюдение на реални заплати на работното място. В проучването са използвани един аватар с мъжки и един с женски външен вид, както и различни гласове. Трудно е да се твърди, че самите гласове не са изиграли роля.

Въпреки това резултатите насочват вниманието към проблем, който може да придобива все по-голямо значение.

Често се опасяваме, че системите с изкуствен интелект могат да възприемат човешките предразсъдъци от данните, използвани за обучението им. Този експеримент подчертава другата страна на проблема: хората могат да пренасят собствените си предразсъдъци върху ИИ, дори когато самата технология е идентична. За да изпълнява функциите си, изкуственият интелект не се нуждае от пол, но изглежда, че възприеманият му пол може да повлияе на това как оценяваме работата му.

Снимка: Unsplash

Виж още: Изкуството да живееш гъвкаво: как Samsung The Frame се адаптира към дома тази есен