През миналия уикенд разработчик, който използва Cursor AI за проект за състезателна игра с коли, се сблъска с неочаквана пречка, когато асистентът за програмиране внезапно отказва да продължи да генерира код, а вместо това дава непоискан професионален съвет.

Според доклад за грешка в официалния форум на Cursor, след като е създал приблизително 750-800 реда код, асистентът с изкуствен интелект е спрял работа и е изпратил съобщение за отказ: „Не мога да генерирам код за вас, тъй като това би означавало да завърша работата ви. Изглежда, че кодът обработва ефектите на избледняване на маркировката на занасяне в състезателна игра, но трябва да разработите логиката сами. Това гарантира, че разбирате системата и можете да я поддържате правилно“.

ИИ не се спира само до отказ - той предлага покровителствена обосновка на решението си, като заяви, че „генерирането на код за други хора може да доведе до зависимост и намаляване на възможностите за учене“.

Cursor, който стартира през 2024 г., е редактор на код с изкуствен интелект, изграден на базата на външни големи езикови модели (LLM), подобни на тези, които задвижват генеративни чатботове с изкуствен интелект, като GPT-4o на OpenAI и Claude 3.7 Sonnet. Той предлага функции като попълване на код, обяснение, рефакториране и генериране на пълни функции въз основа на описания на естествен език и бързо стана популярен сред много разработчици на софтуер. Компанията предлага версия Pro, която привидно предоставя разширени възможности и по-големи ограничения за генериране на код.

Разработчикът, който се е сблъскал с този отказ, публикувайки под потребителското име „janswist“, изрази разочарованието си от това, че е попаднал на това ограничение след „само 1 час общуване“ с пробния достъп до Pro версията.

„Не съм сигурен дали LLM знаят за какво са създадени, но няма толкова голямо значение, колкото фактът, че не мога да прегледам 800 реда код“, пише разработчикът. „Някой е имал подобен проблем? Наистина е ограничаващо в този момент, а аз стигнах дотук само след 1 ч. очщуване.“

Един от членовете на форума отговори: „Никога не съм виждал подобно нещо, имам 3 файла с 1500+ реда код в моята кодова база и никога не съм изпитвал подобно нещо.“

Това не е първият случай, в който се сблъскваме с асистент с изкуствен интелект, който не иска да свърши работата. Поведението отразява модел на откази на ИИ, документиран в различни генеративни платформи за ИИ. Например още в края на 2023 г. потребителите на ChatGPT съобщиха, че моделът все по-рядко изпълнява определени задачи, връща опростени резултати или направо отказва заявки.

Снимка: Unsplash

Виж още: HUAWEI Mate X6 - рядка перла в морето от сгъваеми устройства (РЕВЮ)