Внимавайте какво казвате на чатботовете с изкуствен интелект, защото очевидно хакерите могат лесно да шпионират тези разговори.

"Понастоящем всеки може да прочете частни чатове, изпратени от ChatGPT и други услуги", казва в имейл до Ars Technica Изрол Мирски, ръководител на Лабораторията за офанзивни изследвания на изкуствения интелект в израелския университет "Бен-Гурион". "Това включва злонамерени участници в същия Wi-Fi или LAN като клиента (напр. същото кафене) или дори злонамерен участник в интернет - всеки, който може да наблюдава трафика."

Както се обяснява в доклада, тези видове хакерски атаки са така наречените "атаки по странични канали", които включват трети страни, които извеждат данни пасивно, като използват метаданни или други непреки експозиции, а не пробиват защитните стени. Макар че този вид злоупотреба може да се случи с всякакъв вид технологии, изкуственият интелект изглежда особено уязвим, тъй като усилията му за криптиране невинаги са на висота.

"Атаката е пасивна и може да се осъществи без знанието на OpenAI или техните клиенти", разкрива изследователят. "OpenAI криптира трафика си, за да предотврати този вид подслушвателни атаки, но нашето изследване показва, че начинът, по който OpenAI използва криптирането, е погрешен и по този начин съдържанието на съобщенията е разкрито."

Въпреки че атаките по страничните канали са по-малко инвазивни от други форми на хакерство, те могат да направят приблизително заключение за даден подтик на чатбота с 55% точност, което прави всички чувствителни въпроси, които човек може да зададе на изкуствения интелект, лесни за откриване от злонамерени лица. Макар че изследователите от Израел се фокусират основно върху грешките в криптирането в OpenAI, повечето чатботове на пазара днес - с изключение, по някаква причина, на Gemini на Google - могат да бъдат експлоатирани по този начин, се посочва в доклада.

Този проблем възниква поради използването от чатботовете на кодирани части от данни, известни като "токени", които помагат на големите езикови модели (LLM) да превеждат входящите данни и бързо да предоставят четливи отговори. Те често се изпращат много бързо, така че "разговорът" на потребителя с чатбота да протича естествено, като че ли някой набира отговор, а не като че ли целият абзац се появява изведнъж.

Въпреки че процесът на доставка обикновено е криптиран, самите токени създават страничен канал, за който изследователите досега не са знаели. Всеки, който получи достъп до тези данни в реално време, би могъл, както обясняват изследователите от "Бен-Гурион" в новата си статия, да направи извод за вашите подкани въз основа на токените, до които има достъп, нещо като извод за темата на тих разговор, чут от другата страна на вратата или стената.

Снимка: Unsplash

Виж още: Приложение от времето на Windows 95 се надсмива над очаквания супербъг Y2K38