Екипът на Google DeepMind от години вярва, че създаването на отлични генеративни инструменти за изкуствен интелект изисква и създаването на отлични инструменти за откриване на това, което е създадено от изкуствения интелект. Има много очевидни причини за това, казва главният изпълнителен директор на Google DeepMind Демис Хасабис.

"Всеки път когато говорим за нея и за други системи, се питаме: "Ами проблемът с дълбоките фалшификати?". С настъпването на поредния оспорван изборен сезон през 2024 г. както в САЩ, така и в Обединеното кралство, Хасабис казва, че изграждането на системи за идентифициране и откриване на фалшификати с помощта на изкуствен интелект е все по-важно.

През последните няколко години Хасабис и екипът му работят върху инструмент, който Google пуска публично сега. Нарича се SynthID и е предназначен по същество за поставяне на воден знак върху изображение, генерирано от изкуствен интелект, по начин, който е незабележим за човешкото око, но лесно се улавя от специален инструмент за откриване на изкуствен интелект.

Водният знак е вграден в пикселите на изображението, но според Хасабис той не променя самото изображение по забележим начин.

"Той не променя изображението, качеството на изображението или усещането за него", казва той. "Но той е устойчив на различни трансформации - изрязване, промяна на размера, всички неща, които можете да направите, за да се опитате да заобиколите нормалните, традиционни, прости водни знаци." Хасабис казва, че с усъвършенстването на моделите, залегнали в основата на SynthID, водният знак ще бъде още по-малко забележим за хората, но още по-лесно откриваем от инструментите на DeepMind.

Засега Хасабис и Google DeepMind не искат да се занимават с технически въпроси. Дори в публикацията в блога за стартиране на проекта липсват подробности, тъй като SynthID все още е нова система. "Колкото повече разкривате за начина, по който тя работи, толкова по-лесно ще бъде за хакерите и недобросъвестните лица да я заобиколят", казва Хасабис. SynthID се разпространява първо по начин, ориентиран към Google: клиентите на Google Cloud, които използват платформата Vertex AI на компанията и генератора на изображения Imagen, ще могат да вграждат и откриват водния знак. Хасабис се надява, че когато системата получи повече тестове в реални условия, тя ще стане по-добра. Тогава Google ще може да я използва на повече места, да споделя повече информация за начина на работа и да получава още повече данни за това как работи.

Снимка: Unsplash

Виж още: Chrome най-накрая се сдобива с тази функция на Safari