Бъдещето на киберсигурността е по същество дигитална версия на един футболен мач в която се сблъскват нападателни и защитни изкуствени интелекти – или поне такова е впечатлението, което оставя доклад на NBC за това как индустрията възприема изкуствения интелект.

„През последните месеци хакери от всички категории – киберпрестъпници, шпиони, изследователи и корпоративни защитници – започнаха да включват ИИ инструменти в работата си“, се казва в доклада. „Големите езикови модели като ChatGPT, все още са податливи на грешки, но станаха изключително умели в обработката на езикови инструкции и в превода на обикновен език в компютърен код, или в идентифицирането и обобщаването на документи.“

NBC продължава с разказ за това как Google открива уязвимости с изкуствен интелект, как CrowdStrike „използва изкуствен интелект, за да помага на хора, които смятат, че са били хакнати“, и как стартираща компания на име Xbow е разработила изкуствен интелект, който е успял да се изкачи на върха на класацията на HackerOne в САЩ“ през юни. (HackerOne оттогава раздели класациите си на отделни тракери за индивидуални изследователи и „колективи“ като Xbow.)

По-рано този месец стана ясно, че севернокорейски агенти използват генеративен изкуствен интелект за създаване на автобиографии, профили в социални медии и други материали, които се използват, за да подмамят западни технологични компании да ги наемат, след което преминават към ИИ инструменти за комуникация с колеги, писане на код и поддържане на фасада на нормалност.

Полезността на изкуствения интелект за тази цел, както и за обобщаване на документи, е добре установена. (Или поне по-добре установена от способността му да извършва самостоятелно сложни изследвания в областта на киберсигурността; все още не е особено добър в извличането на факти.) Но изглежда малко рано да се обяви настъпването на ерата на хакерството с изкуствен интелект, особено като се има предвид, че той често се използва като мултипликатор на силата, а не като напълно автоматизирано решение.

Вицепрезидентът на Google по инженерна сигурност Хедър Адкинс заяви пред NBC, че не е „виждала никой да прави нещо наистина ново“ с ИИ и че той „просто прави това, което вече знаем как да правим“. Тя също така каза, че „това ще напредне“, но изследователи, компании и независими организации ни уверяват, че изкуственият интелект ще „напредне“ далеч отвъд сегашните си граници още от 60-те години на миналия век, така че тук работим с дългосрочна перспектива.

Изкачването на Xbow до върха на класацията на HackerOne също е интересно, но то пренебрегва огромното количество "дигитална фира", произвеждана от подобни ИИ инструменти, които обещават да помогнат на изследователите в областта на сигурността да откриват уязвимости. Даниел Стенберг, водещ разработчик на проекта с отворен код curl, на който разчитат практически всички устройства, свързани с интернет, многократно е изразявал съжаление за времето, което е загубил за „уязвимости“, открити от ИИ.

„Общата тенденция досега през 2025 г. е, че има много повече неверна ИИ информация от всякога (около 20% от всички подадени сигнали), като средно получаваме около два сигнала за сигурност на седмица“, пише Стенберг в скорошна публикация в блога си по този проблем. „В началото на юли около 5% от подадените сигнали през 2025 г. се оказаха истински уязвимости. Процентът на валидните сигнали е намалял значително в сравнение с предишни години.“

Стенберг наскоро изнесе лекция по този проблем и си заслужава да прочетете и публикацията му в блога от 2024 г. по този феномен.

Така от една страна ИИ се доказа като полезен при социални инженерни атаки като схемата със севернокорейските технически работници, ускори скоростта, с която изследователите на Google могат да откриват уязвимости, и намери начини да манипулира класацията на HackerOne. NBC също съобщава, че руски хакери са започнали да вграждат ИИ в зловреден софтуер, използван срещу Украйна, за да търсят автоматично в компютрите на жертвите чувствителни файлове, които да изпратят обратно в Москва.

Същевременно, ИИ не е открил много интересни уязвимости сам по себе си, произвежда фалшиви сигнали и нерелевантни доклади и нямаме представа дали гореспоменатата техника за намиране на чувствителни файлове от името на Русия, е произвела полезна информация. Достатъчно ли е това, за да обявим началото на ерата на хакерството с изкуствен интелект, или това е просто още един страничен ефект от по-широкия интерес към изкуствения интелект, подхранван от огромните разходи на най-големите технологични компании в света, инвестиционните тенденции на рисковия капитал и геополитическите конфликти?

Снимка: Unsplash

Виж още: ChatGPT-5 победи Pokémon Red за рекордно кратко за ИИ време - 3 пъти по-бързо от предшественика си