След доклад на The Wall Street Journal, в който се твърди, че OpenAI разполага с инструмент, който може да разпознава есета, написани от ChatGPT, с висока степен на точност, компанията сподели малко информация за изследванията си в областта на водните знаци за текст - и защо не е публикувала своя метод за откриване.

Според доклада на The Wall Street Journal дебатът дали инструментът трябва да бъде публикуван, е попречил той да види бял свят, въпреки че е "готов". В публикувана в неделя актуализация на публикация в блога от май, забелязана от TechCrunch, OpenAI заяви: "Нашите екипи разработиха метод за воден знак на текст, който продължаваме да разглеждаме, докато проучваме алтернативи".

Компанията уточни, че водният знак е едно от множеството решения, включително класификатори и метаданни, които е разгледала като част от "обширни изследвания в областта на произхода на текста". Според OpenAI то "е било много точно" в някои ситуации, но не се представя толкова добре, когато се сблъсква с определени форми на подправяне, "като например използване на системи за превод, преформулиране с друг генеративен модел или искане моделът да вмъкне специален символ между всяка дума и след това да изтрие този символ". И воден знак на текст може да "окаже непропорционално въздействие върху някои групи", пише OpenAI. "Например то би могло да заклейми използването на ИИ като полезен инструмент за писане за хора, за които английският език не е майчин."

Според публикацията в блога OpenAI е преценила тези рискове. Компанията също така пише, че е дала приоритет на пускането на инструменти за удостоверяване на автентичност за аудио-визуално съдържание. В изявление за TechCrunch говорител на OpenAI заяви, че компанията предприема "обмислен подход" към произхода на текста поради "сложността на въпроса и вероятното му въздействие върху по-широката екосистема извън OpenAI".

Снимка: Unsplash

Виж още: Това е планът на SpaceX да събори в океана Международната космическа станция