Помните ли селфито, което публикувахте миналата седмица? В момента нищо не пречи на някого да го запише и редактира с помощта на мощни генеративни системи с изкуствен интелект. Дори по-лошо, благодарение на сложността на тези системи може да се окаже невъзможно да се докаже, че полученото изображение е фалшиво.

Добрата новина е, че нов инструмент, създаден от изследователи от Масачузетския технологичен институт, може да предотврати това.

Инструментът, наречен PhotoGuard, работи като защитен щит, като променя снимките по миниатюрни начини, които са невидими за човешкото око, но не позволяват те да бъдат манипулирани. Ако някой се опита да използва приложение за редактиране, базирано на генеративен модел на изкуствения интелект, като например Stable Diffusion, за да манипулира изображение, което е било "имунизирано" от PhotoGuard, резултатът ще изглежда нереалистично или изкривено.

В момента "всеки може да вземе нашето изображение, да го промени както си иска, да ни постави в лоши ситуации и да ни изнудва", казва Хади Салман, докторант в MIT, който е допринесъл за изследването. То беше представено на Международната конференция по машинно обучение тази седмица.

PhotoGuard е "опит да се реши проблемът с манипулирането на нашите изображения от тези модели", казва Салман. Инструментът би могъл например да помогне да се предотврати превръщането на женски селфита в несъзнателна deepfake порнография.

Необходимостта от намиране на начини за откриване и спиране на манипулациите, задвижвани от изкуствен интелект, никога не е била по-належаща, защото инструментите за генеративен изкуствен интелект направиха това по-бързо и лесно от всякога. В доброволен ангажимент, поет съвместно с Белия дом, водещи компании за ИИ като OpenAI, Google и Meta се ангажираха да разработят такива методи в опит да предотвратят измамите и заблудите. PhotoGuard е техника, която допълва друга от тези техники - водните знаци: тя има за цел да попречи на хората да използват инструменти за изкуствен интелект, за да подправят изображенията, докато водните знаци използват подобни невидими сигнали, за да позволят на хората да откриват съдържание, генерирано от изкуствен интелект, след като то вече е създадено.

Снимка: Unsplash

Виж още: Това мистериозно извънземно откритие разбуни духовете на учените