Изтриването на разговор с изкуствен интелект невинаги означава, че той е изчезнал завинаги. Изследователи са разработили криминалистичен инструмент, който може да възстановява части от изтрити разговори с ИИ приложения, работещи директно на Android устройства. Откритието повдига важни въпроси за защитата на личните данни и за това доколко сигурно е изтриването на информация от смартфоните.

Технологията използва инструмент с името ORISA, предназначен да открива остатъчни данни от разговори, запазени в паметта на устройството. Тези данни могат да бъдат използвани за реконструиране на предишни сесии с ИИ асистент, дори когато потребителят вече е изтрил съответния чат.

Как работи възстановяването на изтрити ИИ разговори?

Все повече приложения позволяват на потребителите да стартират езикови модели локално на своите телефони, без разговорите им да се изпращат до отдалечени сървъри. Този подход предлага потенциални предимства за поверителността, тъй като обработката се извършва на самото устройство. Локалната обработка обаче не гарантира автоматично, че всички следи от даден разговор ще бъдат премахнати при изтриването му.

Инструментът ORISA търси остатъчни фрагменти от информация в паметта на Android устройството и използва откритото, за да възстанови съдържание от предишни ИИ сесии. На практика чатът може да изчезне от интерфейса на приложението, но определени данни, свързани с него, да останат достъпни за специализиран криминалистичен анализ. Това не означава, че всеки изтрит разговор може да бъде възстановен с пълното си съдържание. Резултатите зависят от начина, по който приложението управлява паметта и данните си, както и от това каква информация е останала на устройството.

Експериментът: ИИ си спомня повече след изтриването

За да демонстрират възможностите на ORISA, изследователите използвали измислен ИИ асистент, наречен Project Note Keeper. Той бил създаден с помощта на ChatterUI — приложение с отворен код за Android, което позволява стартирането на AI модели директно на телефона. В разговора били въведени 100 измислени факта, свързани с определен проект. След това разговорът бил изтрит.

Резултатите са показателни: оригиналният асистент можел да възпроизведе само 14 от фактите, докато ORISA успял да възстанови достатъчно информация, за да създаде нова интерактивна сесия, в която били припомнени 26 факта. Причината е, че първоначалният асистент вече бил загубил достъп до част от информацията заради ограниченията на паметта си. Въпреки това остатъци от данните продължавали да съществуват на устройството и можели да бъдат извлечени чрез криминалистичния инструмент.

Изследователите тествали технологията върху 10 Android приложения, три ИИ модела и общо 60 различни конфигурации. Според публикацията тестовете показали, че информация от предишни разговори може да остане в паметта и след изтриването им.

Локалният ИИ не означава автоматично пълна поверителност

Приложения като Google AI Edge Gallery дават възможност за използване на ИИ модели директно на смартфона, включително без постоянна интернет връзка. Това може да ограничи необходимостта разговорите да се изпращат към облачни услуги. Но има важна разлика между това дадена информация да не напуска телефона и тя да бъде окончателно премахната от него.

Ако приложението не изчиства надеждно всички остатъчни данни, теоретично е възможно част от съдържанието да бъде открита при последващ анализ. Това е особено важно за хората, които използват AI асистенти за работа с поверителни документи, лични бележки, бизнес планове или друга чувствителна информация.

Същевременно резултатите от изследването не доказват, че всички ИИ чатове могат да бъдат възстановени, нито че същият метод непременно работи при облачни услуги като ChatGPT. ORISA е насочен към данни, останали на Android устройството, а достъпът до тях изисква подходящи криминалистични възможности.

Какъв е изводът за потребителите?

Откритието е важно не само за сигурността, но и за дигиталната криминалистика. Подобни инструменти биха могли да помогнат на разследващите органи да установят каква информация е била споделена с ИИ асистент и какви отговори или препоръки е предоставил той, дори след изтриване на историята на разговорите.

За обикновените потребители основният извод е, че бутонът „Изтрий“ невинаги е равнозначен на пълно и необратимо заличаване на данните. При работа с чувствителна информация е разумно да се проверяват политиките за съхранение и изтриване на данни на използваните приложения, да се поддържа операционната система актуална и да се използват надеждни механизми за заключване и защита на устройството. Не бива също да се приема, че работата без интернет сама по себе си гарантира пълна защита на личните разговори. В крайна сметка развитието на локалния изкуствен интелект предлага по-голям контрол върху данните, но поставя и нови предизвикателства. За да бъде действително поверителен един ИИ асистент, не е достатъчно разговорите да се обработват на телефона — необходимо е и остатъчната информация да се управлява и изтрива по сигурен начин.

Снимка: Unsplash

Виж още: Четири ИИ агента на Google DeepMind победиха Minecraft за 27 часа, като написаха сами 2783 програми