Компанията OpenAI наскоро пусна софтуерен класификатор, който има за цел да определи дали даден текст е създаден от платформи с изкуствен интелект (AI) като нейния собствен инструмент ChatGPT.

Компанията пусна инструмента, след като различни образователни институции и училищни райони забраниха ChatGPT, защото някои ученици разчитат изцяло на него, за да напишат заданията си и след това да ги представят като свои - което, разбира се, е измама. В момента ChatGPT е забранен в районите на държавните училища в Ню Йорк, Сиатъл, Лос Анджелис и Балтимор. Някои университети във Франция и Индия също са ограничили достъпа до инструмента. И накрая някои щати в Австралия са блокирали достъпа на ученици до ChatGPT в училищните интернет мрежи.

OpenAI описва своя текстов класификатор като „фино настроен GPT модел, който предвижда колко вероятно е част от текста да е генериран от AI от различни източници като ChatGPT“. Въпреки това твърдение обаче самата компания признава, че инструментът е ненадежден. В собствената си оценка на английски текстове класификаторът правилно идентифицира само 26% от текста, написан от AI, като вероятно написан от AI, и смята, че 9% от текста, написан от човек, е на AI. Нещо повече, OpenAI казва, че класификаторът може да е ненадежден за текстове, които са под 1000 знака и са написани на други езици освен английски.

При независимо журналистическо тестване класификаторът на OpenAI правилно счете, че повечето от статиите, публикувани в сайта Neowin, са „много малко вероятни“ да бъдат генерирани от AI. Инструментът обаче беше нерешителен с тяхното скорошно ревю на Nothing Phone (2), като каза, че „не е ясно дали е генериран от AI“. Когато се тества със съдържание, генерирано чрез ChatGPT, класификаторът изглежда малко съмнителен, казвайки, че съдържанието е „вероятно генерирано от AI“.

Вероятно това е причината OpenAI да казва, че резултатите, генерирани от класификатора, не трябва да бъдат „единственото доказателство“, когато се определя дали дадено съдържание е написано от AI. За щастие има и други инструменти, които можете да използвате. Например изследователи от Станфорд наскоро представиха DetectGPT: инструмент, който помага на преподавателите да откриват документи, генерирани от AI. Също така студент по компютърни науки в Принстън разработи подобен инструмент, който може „бързо и ефикасно“ да определи дали едно есе е създадено от ChatGPT.

Снимка: Unsplash

Виж още: ChatGPT вече стана съавтор в научен труд