Модерацията може и да ни изглежда лесна задача, но всъщност е един доста емоционално натоварващ процес. Ето защо не е изненада, че компаниите се опитват да автоматизират част от проверките, но за съжаление голяма част от информацията не може да бъде уловени заради общия контекст. От няколко години Meta се стреми да създава инструменти, които да се борят с терористичното съдържание, а сега явно е ред на Google. Financial Times научи, че Jigsaw разработва безплатен инструмент, който да помага на по-малки уебсайтове да откриват и премахват екстремистки материали. Проектът, създаден с помощта на подкрепяната от ООН Tech Against Terrorism има за цел да улесни модераторските екипи при разпознаването на потенциално незаконно съдържание. Усилията са подпомогнати от Глобалния интернет форум за борба с тероризма (основан от Google, Meta, Microsoft и Twitter), който предлага база данни с различни услуги за терористични артикули. Два неназовани сайта ще тестват кода по-късно тази година. 

Както при помощната програма с отворен код на Meta, инструментът на Google е предназначен да подпомага сайтове, които не могат да си позволят да разработят базирани върху AI алгоритми или да наемат голям екип за модериране. Това може да е критично, когато Законът за цифровите услуги на Европейския съюз и задаващият се законопроект за онлайн безопасност в Обединеното кралство ще изискват операторите на сайтове да изтеглят екстремистко съдържание, за да избегнат наказания. 
Както Google, така и Tech Against Terrorism смятат своя проект за необходим, за да запълнят пропуските в противодействието на онлайн терористичната дейност. Екстремистите и разпространителите на дезинформация, изведени от основните платформи, често се обръщат към по-малки обекти, които невинаги могат да контролират адекватно потребителите.   
Все пак от сайтовете трябва да изразят готовност да използват инструмента. Освен това той не е всесилен и няма да попречи на терористите да споделят материали и чрез добре криптирани услуги за съобщения или тъмната мрежа, където доставчиците не могат лесно да ограничат трафика на данни. Но все пак е някаква алтернатива.  

Снимки: Unsplash

Виж още: Следновогодишно разчистване: редуцирайте Android приложенията, които имат достъп до местоположението ви