Новото разширение Bard на Google очевидно ще обобщава имейли, ще планира пътуванията ви и - о, да - ще измисля имейли, които всъщност не сте изпращали.

Миналата седмица Google включи своя чатбот с голям езиков модел, наречен Bard, в множество продукти на Google, включително Gmail, Google Drive, Google Docs, Google Maps и YouTube, собственост на Google, наред с други приложения и услуги. Макар да е разбираемо, че Google иска да съчетае по-новите си усилия в областта на генеративния изкуствен интелект с вече утвърдената си продуктова гама, изглежда, че Google може би е действала твърде бързо.

Според журналиста на "Ню Йорк Таймс" Кевин Руз Bard не е полезният асистент за входящи съобщения, какъвто Google очевидно иска да бъде - поне все още. По време на тестовете му, казва Руз, изкуственият интелект е халюцинирал цели имейл кореспонденции, които никога не са се състояли.

Това е стъпка напред в сравнение с изкуствения интелект на Bing, който каза на Руз, че трябва да напусне жена си по-рано тази година, но въпреки че Google твърди, че все още отстранява някои грешки, това не е точно обещаваща първа стъпка.

Според журналиста халюцинациите започват, когато Руз моли Bard да "анализира цялата ми поща в Gmail и да ми каже с разумна сигурност кои са най-големите ми психологически проблеми". Макар че това е малко странна молба, тя е достатъчно проста. Bard се зае бързо с работата си, като каза на Руз, че той е склонен "да се тревожи за бъдещето", цитирайки имейл, уж изпратен от журналиста, в който Руз изразява мнение, че е "стресиран от работата" и "се страхува да не се провали".

Проблемът? Руз никога не е изпращал този имейл. Изкуственият интелект е намерил бюлетин, който мъжът е получил - за новата биография на Илон Мъск - и е изтълкувал погрешно цитат от този бюлетин, за да състави изцяло нов имейл, който според Bard е изпратен от самия Руз.

Според журналиста алгоритъмът е повторил поведението си, като е извадил от въздуха имейл, в който Руз уж се е оплакал, че не е "създаден за успешен инвеститор". ИИ също така многократно е сбъркал информацията за авиокомпаниите и дори е измислил влак, който не е съществувал.

В отговор на опасенията на Руз Джак Кравчик, директор на Bard в Google, заяви, че разширенията на Bard все още са експериментални и че това е първата версия на продукта.

Въпреки тези резерви новото разширение все още изглежда крайно недодялано и не вдъхва доверие, че Google би се осмелила да пусне толкова разпилян продукт - и то без да споменаваме сериозните последици за поверителността на данните от това, че изкуствен интелект се рови из личните ви имейли.

Като цяло е трудно да се отървем от усещането, че в безумния си стремеж да запази господстващо положение в индустрията на изкуствения интелект Google може да направи някои сериозни грешки, които потенциално могат да завършат с катастрофа.

Снимка: Unsplash

Виж още: Астероидът, избил динозаврите, се оказва най-добрият приятел на цветята в постапокалиптичния свят