Имаше време, когато разпознаването на съмнителен файл за изтегляне означаваше да се търсят сайтове с правописни грешки, странни изскачащи прозорци и други очевидни признаци за опасност. Задачата обаче става много по-трудна, когато измамата започва от уебсайт, на който вече имате доверие. Експерти по сигурността разкриха кампания със зловреден софтуер, която прави точно това: използва истинска страница на ChatGPT, за да убеди потребителите, че си имат работа с официален продукт на OpenAI, преди да ги пренасочи към много по-опасен сайт.

Изследователи от компанията Huntress установиха, че злонамерени лица се възползват от функцията Custom GPT на ChatGPT, за да създадат бот с името Plus 5.6. Името е избрано така, че да звучи като официален модел на OpenAI, а тъй като персонализираните GPT ботове се хостват в домейна ChatGPT.com, всеки, който отвори връзката, вижда легитимен адрес на ChatGPT в браузъра си.

Според Huntress в някои случаи жертвите дори са попадали на фалшивия GPT чрез спонсориран резултат в търсачката на Google за „ChatGPT“, при което злонамереният линк се е появявал над обичайните резултати от търсенето.

Независимо какво са въвеждали потребителите, Plus 5.6 е връщал на практика едно и също съобщение. В него се е твърдяло, че ChatGPT има проблеми с достъпността, и е бил предлаган „резервен домейн“. Този линк е водел към страница в Google Sites, маскирана като проверка за сигурност на Cloudflare, където на потребителите е било указано да копират определена команда и да я поставят в Windows.

Този фалшив чек използва тактика, известна като ClickFix. Вместо да използва софтуерен бъг, ClickFix ви подмамва да извършите опасната част сами, като представя фалшив проблем и след това предлага предполагаема корекция. Тук на жертвите беше казано да копират команда и да я поставят в Windows, което я прави да изглежда като рутинна стъпка за проверка.

И там започнаха истинските проблеми. Изпълнението на командата стартира скрита верига, която в крайна сметка инсталира троянски кон за отдалечен достъп или RAT. Казано по-просто, злонамереният софтуер може да даде на атакуващия широк контрол над компютъра, включително възможността да преглежда екрана, да търси файлове, да използва уеб камерата и микрофона, да заснема аудио на системата и да инсталира повече зловреден софтуер.

Huntress разследва най-малко 40 инцидента, свързани с домейна на Google Sites, но успя да потвърди, че само две заразявания са започнали чрез въпросния злонамерен персонализиран GPT (Custom GPT). Твърди се, че OpenAI е премахнала един такъв GPT на 25 септември, но два дни по-късно изследователи откриха друг, свързан със същата кампания.

Това не е първият случай, в който измамници се възползват от доверието на хората към услугите с изкуствен интелект. По-рано тази година в препоръките за пазаруване на ChatGPT се появиха фалшиви магазини, излагайки потребителите на риск от измама. Изследователи също така откриха зловреден софтуер за Android, който използва Gemini, за да променя поведението си по време на работа. Най-тревожното обаче е, че на пръв поглед нищо не изглежда особено подозрително – именно това прави подобни кампании трудни за разпознаване от обикновените потребители, преди да стане твърде късно.

Снимка: Unsplash/Huntress 

Виж още: Новооткрита амеба, невероятно издръжлива на топлина, може да стане ключ към търсенето на живот на огнени планети