Компанията Midjourney прекратява безплатното използване на своя генератор на изображения с изкуствен интелект, след като хора създадоха високопрофилни  фалшификати с помощта на инструмента. Главният изпълнителен директор Дейвид Холц пояснява в Discord, че компанията прекратява безплатните пробни версии поради "извънредни злоупотреби с пробни версии". Новите предпазни мерки не са били "достатъчни", за да предотвратят злоупотребите по време на пробните периоди, казва Холц. Засега ще трябва да плащате поне 10 долара на месец, за да използвате технологията.

Както обяснява The Washington Post, през последните седмици Midjourney се оказа в центъра на нежелано внимание. Потребителите разчитаха на изкуствения интелект на компанията, за да създадат deepfake съдържание, свързано с Доналд Тръмп, папа Франциск и други популярни личности.  Въпреки че снимките бързо бяха идентифицирани като фалшиви, има опасения, че злонамерени страни могат да използват Midjourney, DALL-E на OpenAI и други подобни генератори за разпространение на дезинформация.

Midjourney признава, че има проблеми с налагането на политики за съдържанието. През 2022 г. Холц оправда забраната на изображения на китайския лидер Си Дзинпин, като каза на потребителите на Discord, че екипът му иска само да "сведе до минимум драмата" и че наличието на какъвто и да е достъп в Китай е по-важно от разрешаването на сатирично съдържание. В чата с потребителите Холц заяви, че изпитва затруднения при определянето на политики за съдържанието, тъй като изкуственият интелект позволява все по-реалистични изображения. Midjourney се надява да подобри модерирането на AI, което да проверява за злоупотреби, добавя основателят.

Някои разработчици са прибегнали до строги правила, за да предотвратят инциденти. OpenAI например забранява всякакви изображения на текущи политически събития, конспиративни теории и политици. Компанията също така забранява омразата, сексуалността и насилието. Други обаче имат сравнително свободни насоки. Stability AI не позволява на потребителите на Stable Diffusion да копират стилове или да правят снимки, които не са безопасни, но като цяло не диктува какво могат да правят хората.

Заблуждаващото съдържание не е единственият проблем при създаването на изображения от AI. Отдавна съществуват опасения, че снимките са крадени, тъй като те често използват съществуващи изображения като отправни точки. Въпреки че някои компании приемат изкуството на изкуствения интелект в своите продукти, има и много колебания от страна на онези, които се притесняват, че ще се забъркат в нови проблеми.

Снимка: Midjourney

Виж още: Избързаха ли Google с премиерата на Bard?