Служителите на Google многократно критикуват чатбота на компанията Bard във вътрешни съобщения, като наричат системата "патологичен лъжец" и молят компанията да не я пуска.

Това се казва в открит доклад на Bloomberg, в който се цитират разговори с 18 настоящи и бивши служители на Google, както и скрийншоти на вътрешна кореспонденция. В тези вътрешни дискусии един от служителите е отбелязал как Bard често е давал на потребителите опасни съвети, независимо дали става въпрос за теми като как да приземят самолет или да се гмуркат. Друг казва: "Bard е безполезен: моля, не го пускайте". Bloomberg твърди, че компанията дори е "отхвърлила оценка на риска", представена от вътрешен екип по безопасността, според която системата не е готова за обща употреба. Google все пак е отворила ранен достъп до "експерименталния" бот през март.

Докладът на Bloomber илюстрира как Google очевидно е загърбила етичните проблеми в стремежа си да не изостава от конкуренти като Microsoft и OpenAI. Компанията често изтъква работата си в областта на безопасността и етиката в изкуствения интелект, но отдавна е критикувана, че вместо това дава приоритет на бизнеса.

В края на 2020 г. и началото на 2021 г. компанията уволни двама изследователи - Тимнит Гебру и Маргарет Мичъл, - след като те станаха автори на научна статия, разкриваща недостатъци в същите езикови системи на ИИ, които са в основата на чатботове като Bard. Сега обаче, когато тези системи застрашават бизнес модела на Google за търсене, компанията изглежда още по-фокусирана върху бизнеса, отколкото върху безопасността. Както пише Bloomberg, перифразирайки свидетелства на настоящи и бивши служители: "Довереният гигант в интернет търсенето предоставя нискокачествена информация в надпреварата да не изостава от конкуренцията, като същевременно отдава по-малко значение на етичните си ангажименти".

Други в Google - и в света на изкуствения интелект като цяло - не биха се съгласили. Често срещан аргумент е, че публичните тестове са необходими за разработването и защитата на тези системи и че известните вреди, причинени от чатботовете, са минимални. Да, те създават токсични текстове и предлагат подвеждаща информация, но това правят и безброй други източници в интернет. Конкурентите на Google като Microsoft и OpenAI вероятно са също толкова компрометирани, колкото и Google. Единствената разлика е, че те не са лидери в бизнеса с търсене и имат по-малко какво да губят.

Брайън Гейбриъл, говорител на Google, заяви пред Bloomberg, че етиката на ИИ остава основен приоритет за компанията. "Продължаваме да инвестираме в екипите, които работят по прилагането на принципите на изкуствения интелект в нашите технологии", казва Гейбриъл.

Снимка: Unsplash

Виж още: На кого ще заложи Samsung – на Google Search или новия AI Bing?