Компютърни учени от Чикагския университет са разработили нов инструмент, наречен Nightshade, който има за цел да маркира "дигитални произведения на изкуството, като ги направи вредни за обучение на модели на изкуствен интелект, генериращи изображения, които се занимават с кражба на интелектуална собственост, като DALL-E, Midjourney и Stable Diffusion".

Откъде идва Nightshade? Nightshade е разработен като част от проекта Glaze, който се ръководи от група компютърни учени от Чикагския университет, ръководена от проф. Бен Жао. Преди това групата е разработила Glaze - инструмент, предназначен да променя начина, по който алгоритмите за обучение на изкуствен интелект възприемат стила на цифровите произведения на изкуството, за да объркат моделите.

Как работи? Програмата използва рамката за машинно обучение с отворен код Pytorch, за да маркира изображенията на ниво пиксел. Таговете не са очевидни за хората, които гледат изображението, но моделите на изкуствен интелект ги виждат по различен начин, което се отразява неблагоприятно на начина, по който изображенията се използват за обучение.

Каква е разликата между Glaze и Nightshade? Glaze убеждава тренировъчните модели, че виждат различен художествен стил от този, който би видял човек, гледащ изображението. Например Glaze може да убеди моделите на изкуствен интелект, че една рисунка с въглен всъщност е маслена картина, докато всеки човек, който гледа изображението, би видял рисунка с въглен. Докато Glaze заблуждава моделите за обучение, че бъркат различни стилове, Nightshade убеждава моделите, че съдържанието на изображението е нещо различно от това, което би видял човек, така че едно маркирано изображение може да убеди модела с изкуствен интелект, че снимка на котка всъщност е снимка на куче. Моделът ще се обучава на базата на тези данни и когато потребителят въведе текстова подкана с искане за снимка на котка, вместо това ще получи изображение на куче.

Какви са недостатъците? Процесите добавят известен шум в цифровите изображения. Нивото на изкривяване варира в зависимост от изображението и може да се регулира от потребителя.

И така, това ли е краят на софтуера за генериране на изображения? Съвсем не и си струва да се отбележи, че проектът Glaze не е насочен срещу изкуствените интелекти. Както беше посочено по-рано, Glaze и Nightshade използват софтуер с отворен код за ИИ в процеса на маркиране на изображения. Вместо това програмите са разработени, за да създадат екосистема, в която потребителите на програми за генериране на изображения ще се нуждаят от одобрението на притежателите на права, за да получат непроменен достъп до учебни изображения.

Снимка: Unsplash

Виж още: Флопито най-сетне излезе в отдавна просрочена пенсия в Япония