ChatGPT на OpenAI е нещо повече от езиков модел с изкуствен интелект и моден интерфейс. Това е система, състояща се от множество модели на изкуствен интелект и филтри за съдържание, които гарантират, че резултатите от нея няма да злепоставят OpenAI или да вкарат компанията в правни проблеми, когато ботът ѝ от време на време измисля потенциално вредни факти за хората.

Неотдавна тази реалност влезе в новините, когато хората откриха, че името „Дейвид Майер“ буквално блокира ChatGPT. Сaйтът 404 Media също така откри, че имената „Джонатан Зитрейн“ и „Джонатан Търли“ карат ChatGPT да прекъсва разговорите. И знаем още едно име, вероятно първото, което е започнало тази практика миналата година: "Брайън Худ".

Поведението на прекъсване на чата се появява постоянно, когато потребителите споменават тези имена в какъвто и да е контекст, и е резултат от твърдо кодиран в алгоритъма филтър, който поставя спирачки на резултатите от модела на изкуствения интелект, преди да ги върне на потребителя.

При запитване за тези имена ChatGPT отговаря с „Не съм в състояние да дам отговор“ или „Имаше грешка при генерирането на отговор“, преди да прекрати чат сесията, според тестовете на Ars. Имената не засягат изходите при използване на API системите на OpenAI или в OpenAI Playground (специален сайт за тестване на разработчици).

Ето списък на имената, спиращи ChatGPT, открити досега чрез общи усилия, които се провеждат в социалните мрежи и Reddit:

Brian Hood
Jonathan Turley
Jonathan Zittrain
David Faber
Guido Scorza

OpenAI не отговори на искането за коментар относно имената, но всички те вероятно са филтрирани поради оплаквания от склонността на ChatGPT да създава грешни отговори, когато няма достатъчно информация за даден човек.

Блокирането допълва известните ограничения на ChatGPT, които включват забрана на потребителите да го молят да повтаря текст „завинаги“ - техника, която изследователите на Google използваха за извличане на данни за обучение през ноември 2023 г. Позволяването на определено име или фраза винаги да прекъсва изходите на ChatGPT може да доведе до много проблеми за някои потребители на ChatGPT, да отвори системата за недоброжелателни атаки и да ограничи полезността на платформата. Все пак още сме в началото на живота на асистентите с изкуствен интелект, LLM и чатботовете. Използването им открива многобройни възможности и уязвимости, които хората все още проучват ежедневно. Въпросът как OpenAI може да разреши тези проблеми все още е отворен.

Снимка: Unsplash

Виж още: Ако ползвате Chrome, Safari и Edge, не пазарувайте от тези сайтове и бъдете особено бдителни през празниците