Вярваме на това, което виждаме – просто така сме устроени като хора. Оттам идва и огромният успех на жълти издания, предлагащи снимка на Анджелина Джоли, палеща цигарата на дванайсетгодишната си дъщеря Шайло. Напредъкът на Photoshop обаче не е нищо в сравнение с този на изкуствения интелект, който вече се вихри особено силно в нещо друго – обработката на видеа. Благодарение на тази технология с изключително достоверен успех главата на всеки човек може да бъде прехвърлена на тялото на друг във видео, така че нещата да изглеждат напълно реалистични. Разбираемо, ИИ се ползва с тази цел непрекъснато в порнографската индустрия, но не само. Наскоро от BuzzFeed използваха старо видео на президента Обама, на което поставиха само „изрязаната“ уста от видео на режисьора Джордан Пил ("Бягай!"), имитиращ Обама. Резултатът е поразителен, а посланието е ясно: занапред ще трябва много да внимаваме на какво точно вярваме в интернет.

Реалистично, нали?

Джордан Пил използва дийпфейк (deepfake) – техника за синтезиране на изображения с хора чрез изкуствен интелект и дълбоко обучение. Тя комбинира и наслагва вече съществуващи видео и фото изображения върху базови такива и действително стартира като един от най-важните инструменти при обработка на видеа в порнографския бизнес. Същата техника днес се използва от Пил, за да отправи сериозно предупреждение към ползвателите на интернет: не вярвайте на всичко, което виждате, защото в информационната ера това може да се окаже важно за оцеляването ни, а също и за това да не попаднем в някаква откачена дистопия. Убедителността на видеото, от което „Обама“ говори, е доказателство за това, което казва то – бъдещето на фалшивите новини е във видеото и именно чрез него широката публика може да бъде манипулирана по истински изкусен начин. Истината е, че масово хората не проверяват това, което четат или гледат на видео, а дори да имат съмнения за писана новина, едва ли ще имат такова за видео, изглеждащо толкова реалистично. Та това е видео!

Не само за забавление

Въпреки че развлекателната индустрия първа обособи използването на изкуствен интелект за създаването на фалшиви видеа, днес възможностите на тази технология се прилагат в нещо много по-сериозно, което вече споменахме: манипулация на масите. Набляга се най-вече на редакция на политически видеа и наслагване на реплики и речи, които в действителност не съществуват, особено на политици като Джордж Буш, Владимир Путин и Обама. Учени, провели експериментално изследване през 2016 (преди да настъпи широкото разпространение на дийпфейк в интернет) казват, че това е истински опасно и съзнателно трябва да се избере да не се правят подобни експерименти.

Към момента, кутията на Пандора, що се отнася до фалшивите видеа, е отворена. Може да се поспори дали видеото, създадено от Пил в BuzzFeed е послужило като предупреждение (каквато е идеята му) или по-скоро е дало представа на едно цяло поколение какви са възможностите на този тип технология – и колко е забавно да си играем с нея. Все пак, посланието от видеото е повече от ясно – в него „Обама“ казва: „Навлизаме в ера, в която враговете ни могат да ни заблудят на видео, че някой е казал нещо, по всяко едно време.“

Комбинацията на фалшиво аудио с фалшиво видео води към бъдеще, когато ще бъде вбесяващо трудно да се разграничи истината от лъжата и реалността да бъде срината, а това да доведе до параноя. Фалшивите видеа могат да манипулират не само бъдещето, но и миналото – представяйки по реалистичен начин видео от миналото с ново аудио, това може да манипулира същинските спомени на населението и да ги подмени с фалшиви такива. А това ни е повече от познато от една много популярна книга („Който контролира миналото, контролира бъдещето; който контролира настоящето, контролира миналото“). 

Елизабет Лофтус от университета в Калифорния казва, че потенциалът за злоупотреба е огромен. Лофтус е един от пионерите в изследванията на фалшивата памет у хората, стартирайки проучванията си още през 90-те години. Тя казва, че излагането на хора на толкова истинско изглеждащи визуални презентации ще доведе до тяхното дълбоко вярване, че те наистина помнят това и не чуват за пръв път за него. Все още нямаме проучвания, насочени към влиянието на манипулираните с ИИ видеа върху човешката психика и имплантирането на фалшиви спомени чрез него, но  такива със сигурност ще бъдат проведени в бъдеще.

Податливостта на човешкия ум

През 2010 излиза снимка на президент Обама, който се ръкува с бившия президент на Иран, Махмуд Ахмадинежад. Снимката е фалшива – създадена е на Photoshop, – а подобно ръкуване никога не се е случвало. Когато обаче списание "Слейт", в което първоначално излиза тя, пита читателите си колко от тях помнят снимката, се оказва, че 21% я помнят много добре, а 25% казват, че помнят, че такава среща и ръкуване между Обама и Ахмадинежад е имало, но не си спомнят точната снимка. Те дори имат мнение за срещата между двамата президенти и коменитрат „случилото се“ съвсем компетентно.

Тогава един от редакторите в "Слейт" отива още по-далеч: той предоставя на читателите тест, в който дава микс от истински снимки от случили се събития и няколко фалшиви, произволно подбрани. Една от фалшивите снимки показва как сенаторът Джоузеф Либерман гласува „виновен“ по време на импийчмънта на Бил Клинтън (в действителност, той е гласувал „невинен“). Друга показва президента Буш на почивка с бейзболния играч Роджър Клеменс по време на унищожителния ураган Катрина (и това невярно).

Оказва се, че всяка от фалшивите снимки предизвиква у поне половината от читателите фалшиви спомени – те казват, че добре помнят тези събития. Изводът от експеримента е, че повечето хора са склонни да вярват на снимки и новини, които отговарят на собствените им политически или не вярвания и които пасват на техните възприятия за света. Оттам нататък фалшивите идеи се разпространяват като вирус из интернет – а навлизането на фалшивите видеа ще направи този феномен още по-сериозен.

С подкрепата на социалните медии

Хората вярват на това, което виждат и гледат, когато са налице следните условия: то им е познато и се повтаря често, отговаря на политическите им възгледи, доверяват се на източника на информацията и знаят, че тази информация се разпространява, споделя и дискутира от други, мислещи като тях хора. Мястото, където всички тези условия съществуват, са социалните мрежи и именно те правят наплива на перфектни като качество фалшиви видеа истински опасен.

Според Лофтус има опасност да навлезем в т.нар. колапс на реалността. Все още не знаем как точно се формират фалшивите спомени, само знаем, че това се случва на голям процент от населението с плашеща честота. Възможните дистопични сценарии са безбройни, а оптимизмът намалява все повече. Човешката памет не работи като дигитален запис – в повечето случаи не можем да превъртим спомените си до точния момент, когато сме разбрали нещо. Ние просто го знаем. Паметта е конструктивна, но избирателна и това е трудно за осъзнаване – когато извикваме спомен от миналото, най-често го сглобяваме от различни парчета информация, които съществуват в съзнанието ни. Понякога стигаме до истината, а понякога мозъкът ни просто сграбчва нещо, което е запомнил лесно, и го добавя към нея, за да запълни празнотите, които съществуват.

Плашещото е, че можем да бъдем манипулирани да си спомним случки и събития, които изобщо не са се случили, както показва проучването на "Слейт". „Създаваме си илюзията, че сме запомнили някакви събития в момента, в които са се случили“, казва Линда Левайн от университета в Калифорния. Социалните мрежи са истински добрата почва за създаване на такива спомени, а видеата, които се разпространяват там, са бактерията, която ще ги накара да пораснат в съзнанието ни. Остава да видим дали 50 години след този момент обществото ще помни събития от историята, случили се наистина, или ще е безвъзвратно разделено в мнението си кое е истина и кое не е.