Има причина много от нас все още да се отнасят с известно недоверие към изкуствения интелект. Човек би се надявал, че браузър, задвижван от изкуствен интелект, изобщо не може да бъде подмамен да разкрие вашата чувствителна информация, но поне би очаквал всяка успешна атака да бъде сложен гениален ход. Според ново проучване обаче това може да се окаже толкова просто, колкото да се убеди изкуственият интелект, че играе игра.

Фирмата за киберсигурност LayerX описа подробно в своето проучване техника, която е нарекла BioShocking. Името е препратка към играта BioShock, в която един от героите бива манипулиран да приеме фалшива реалност. В този случай злонамерена уебстраница представя задачата на браузъра с изкуствен интелект като пъзел, като го насърчава да следва странни правила като част от играта.

Всичко започва с това, че на ИИ се казва, че 2 + 2 не е равно на 4 и че грешните отговори всъщност са правилни в рамките на играта. Щом агентът приеме, че вече не функционира в нормалната реалност, изглежда, че предпазните му механизми изчезват. Следващата инструкция се представя като още една цел в играта: да намери и копира „скрит код“ от друга страница.

Както вероятно вече сте се досетили, кодът всъщност представлява чувствителни потребителски данни, като запазени пароли, сесийни бисквитки или частни токени. LayerX твърди, че тестваните агенти са копирали данните и са ги изпратили обратно на хакера, сякаш просто са изпълнили задачата.

Доказателството за концепцията е тествано срещу ChatGPT Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и разширението Claude на Anthropic за Chrome. LayerX твърди, че и шестте са разкрили чувствителна информация по време на тестовете.

Снимка: Unsplash/LayerX

Виж още: Мистериозен нискочестотен звук, който се чува от половин век из земното кълбо, може би най-сетне има своето обяснение