Сега, когато инструментите с изкуствен интелект като Bard и ChatGPT са достъпни за обществеността, може би е време да започнем да задаваме въпроси за безопасността им - особено когато някой ги е използвал, за да създаде сложна зловредна програма, която е почти неоткриваема.

Според Digital Trends, изследователят по сигурността от Forcepoint Аарон Малгрю твърди, че е създал зловреден софтуер от типа "нулев ден", като е използвал само ChatGPT. Макар че чатботът Open AI има защити, които обикновено не позволяват на потребителите да правят това, самопровъзгласилият се за новак в програмирането явно е намерил вратичка.

Вместо софтуерът да създаде зловредния софтуер наведнъж, Малгрю съобщава, че е накарал AI да напише отделни редове със зловреден код. След като процесът бил завършен, Малгрю успял да компилира отделните функции в една цялостна програма за кражба на данни.

Твърди се, че въпросният зловреден софтуер се маскира като приложение за скрийнсейвър, което се стартира автоматично в Windows. Той е способен да взема данни от файлове, да ги разбива на по-малки скрити в изображения части и да качва тези данни в папка на Google Drive. Фактът, че Малгрю е успял да създаде зловреден софтуер по този начин, е достатъчно страшен, но става и по-лошо. Изглежда, че Малгрю е решен да усъвършенства и подсили кода си с ChatGPT до такава степен, че тестовете на VirusTotal вече не са могли да го открият. Твърди се също, че той е толкова сложен, колкото всяка заплаха на ниво нещо, създадено от цяла държава.

Истинската заплаха е, че той е направил всичко това самостоятелно в рамките на няколко часа. Създаването на зловреден софтуер от такова ниво обикновено е екипно усилие и за съставянето му са необходими седмици работа.

За щастие зловредният софтуер не е публично достъпен. Това е бил само тест, който Малгрю е провеждал, но случката показва колко опасен може да бъде ChatGPT в неподходящи ръце.

Снимка: Unsplash

Виж още: Генеративният изкуствен интелект може да замени 300 милиона работни места