Едно от най-критикуваните поведения на чатботовете с изкуствен интелект е т.нар. халюцинация, когато изкуственият интелект убедително отговаря на въпрос, а ви предоставя фактологически невярна информация. Казано по-просто, изкуственият интелект си измисля неща в опит да задоволи интереса на своя потребител.

Въпреки че това, което може да звучи като тривиален въпрос, в действителност е много сложен проблем. Всъщност може би няма да успеем да излекуваме напълно тази болест - опасение, изразено от много експерти през последната година.

Но дали големите езикови модели (LLM) - основната технология зад всички онези популярни чатботове с генеративен изкуствен интелект като Bing, Bard или ChatGPT - наистина са повредени? Андрей Карпати, съосновател на OpenAI и бивш старши директор на отдела за изкуствен интелект в Tesla, смята точно обратното. "В известен смисъл халюцинациите са всичко, което правят LLM. Те са машини за сънища", казва той в публикация в X (Twitter).

Роденият в Словакия експерт по дълбоки невронни мрежи и обработка на естествен език намеква, че ние, потребителите, сме някакъв вид режисьори. Ние използваме нашите подкани, за да инициираме и насочваме този процес към, надяваме се, полезен резултат.

"Само когато сънищата преминат в считана за фактологически невярна територия, ние ги обозначаваме като "халюцинация" - продължава Карпати, като добавя, че това само прилича на грешка: "Халюцинацията не е грешка, тя е най-голямата характеристика на LLM".

В същото време Карпати не крие, че чатботовете с изкуствен интелект наистина имат проблеми. Макар че тук е важно правилното дефиниране на проблема:

"Осъзнавам, че това, което хората всъщност имат предвид, е, че не искат LLM асистентът (продукт като ChatGPT и др.) да халюцинира. Асистентът е много по-сложна система от самия езиков модел, дори ако такъв е в основата му".

Бившият ръководител на разработката на Autopilot в Tesla признава, че "асистентите с LLM" имат проблем, който трябва да отстраним, и има няколко начина да се справим с него, като според Андрей Карпати всички те са "активни и много интересни области на изследване".

За да решите даден проблем, първо трябва да сте наясно с неговото съществуване. И сега, малко повече от година след началото на бума на генеративния ИИ през 2022 г., всички изследователи и разработчици са много добре запознати с проблема. Всъщност именно търговският успех на ботовете с изкуствен интелект стимулира изследванията и усъвършенстването на тези инструменти, тъй като технологичните гиганти се състезават в надпреварата за най-добър потребителски продукт.

Снимка: Unsplash

Виж още: ChatGPT мързеливо подканва потребителите да изпълняват собствените си задачи