Unstable Diffusion, генераторът на неприлични изображения с изкуствен интелект, който беше свален от Kickstarter през декември, набира доста последователи: Програмата генерира повече от 500 000 изображения всеки ден, съобщи главният изпълнителен директор и съосновател на програмата Арман Чаудри по имейл за Business Insider.

Unstable Diffusion е подобна на други AI генератори на изображения, които създават изображения от текстови входни данни, но има минимални ограничения на съдържанието и може да създава NSFW изображения, включително порнографски.

Той е базиран на Stable Diffusion, популярния генератор на изображения от текст от Stability AI. Кодът, който стои в основата на Stable Diffusion, е публичен, така че теоретично всеки може да го преглежда и променя, за да създава нови версии на оригиналния модел.

Именно това направи Чаудри, когато започна Unstable Diffusion през август 2022 г., същия месец, в който Stable Diffusion беше пуснат публично.

Unstable Diffusion започва като Reddit раздел за споделяне на порнография, генерирана от изкуствен интелект. След това групата се премества в Discord, където членовете започват да създават инструменти и в крайна сметка създават бот, който се превръща в ранна версия на генератора на изображения.

"Основахме групата в Discord като убежище за творци, които искаха да създават изкуство с изкуствен интелект без ограничения, включително такива, свързани със съдържание за възрастни", каза Чаудри, главен изпълнителен директор на Unstable Diffusion, през февруари по имейл за Insider.

През декември общността стартира кампания в Kickstarter, за да събере пари за изграждането на своя генератор на изображения, но 12 дни по-късно беше премахната от платформата.

Все пак Unstable Diffusion успява да събере необходимите средства - 30 000 долара, - за да пусне самостоятелно уеб приложение. Unstable Diffusion предлага основна, безплатна услуга, както и тройка платени продукти, които се таксуват между 14.99 и 59.99 долара на месец. Тези премиум услуги позволяват на потребителите да генерират повече изображения едновременно, да създават изображения по-бързо и да използват изображенията с търговска цел.

Разбира се, има възможност за нечестна игра, когато става въпрос за AI порнография, тъй като потребителите могат да създават дълбоко фалшива порнография или съдържание, изобразяващо непълнолетни лица, участващи в сексуални действия.

През февруари Atrioc, популярен стриймър в Twitch, беше хванат да гледа тази порнография, изобразяваща deepfakes на жени стриймъри. По това време експерти заявиха, че участието в deepfake порно без съгласие може да бъде травмиращо и да се счита за злоупотреба.

През февруари Чаудри заяви пред Insider, че "агресивната система за филтриране и модериране" на Unstable Difussion предотвратява дълбоките фалшификати и друго нежелано съдържание. Но тя не е безотказна. TechCrunch успя да използва генератора, за да създаде изображения, които произвеждат двойници на Доналд Тръмп и Крис Хемсуърт например.

На въпрос за изображенията на TechCrunch Чаудри заяви, че двойниците са били създадени в период, в който услугата е имала "грешка с нашия филтър за генериране на дълбоко фалшиво съдържание, която временно го е деактивирала за някои потребители". Грешка или не, перфектното модериране на съдържанието, особено за продукт, който има малко предпазни режими, е трудно.

Дори чатботовете с изкуствен интелект, които се модерират интензивно от технологични компании като Google и OpenAI, са изложени на риск да бъдат манипулирани.

Снимка: Unsplash

Виж още: NASA ще затвори четирима изследователи в симулирана марсианска база за една година