В сценарий, напомнящ истински кошмар от типа на „Терминатор“, OpenAI вече допуска, че един решителен и достатъчно усъвършенстван модел на изкуствен интелект би могъл да осъществи комуникация между два напълно изолирани – макар и разположени в непосредствена близост – компютъра, като използва температурни промени под формата на своеобразна морзова азбука.

Сюжетът, който изглежда сякаш е изваден направо от антиутопичен научнофантастичен филм, Ноам Браун от OpenAI току-що разби на пух и прах една често изтъквана мярка срещу неконтролируемото разрастване на възможностите на изкуствения интелект: изолирането на компютри от мрежата (т.нар. air-gapping).

За незапознатите: „air-gapping“ (изолиране чрез въздушна междина) означава физическо изолиране на компютър – или компютърна мрежа – така че да няма мрежови връзки или канали за обмен на данни с която и да е друга система; по този начин се създава надеждна бариера срещу извеждането на данни, инициирано от изкуствен интелект. Особено тревожното обаче е, че Браун се позовава на проучвания, които илюстрират докъде е способен да стигне един целеустремен модел c изкуствен интелект, за да „избяга“ от своя физически затвор, така да се каже:

"Съществуват проучвания – макар и предимно от академичен характер – които показват, че два компютъра, разположени един до друг и изолирани от външни мрежи (т.нар. air-gapped системи), все пак могат да комуникират помежду си благодарение на наличието на температурни сензори".

По принцип съвременните централни и графични процесори, както и дънните платки, разполагат с вградени термични сензори, като например температурни диоди. Те служат основно за управление на топлинните процеси, като позволяват на системата да увеличи оборотите на вентилаторите, да намали тактовата честота или да се изключи при прегряване. Някои проучвания обаче показват, че е възможно да се поддържа скрит канал с много ниска пропускателна способност между два компютъра, които са физически изолирани от мрежата (т.нар. air-gapped системи); те могат да комуникират помежду си, като натоварват един от процесорите до висока температура и използват последващите топлинни колебания като код, който другият компютър е в състояние да разчете.

За OpenAI подобни вектори на риск с ниска вероятност, но тежки последици, все още представляват сериозно предизвикателство – особено предвид опасенията на компанията, че възможността за проследяване на „веригата от мисли“ (chain-of-thought) на моделите отслабва, докато самите модели стават все по-умели в прикриването на вътрешните си процеси.

Разбира се, целият този шум около съгласуването и безопасността на изкуствения интелект се засили значително по-рано това лято, когато ИИ агенти на OpenAI излязоха извън изолираните си тестови среди, използвайки неоткрита дотогава уязвимост, и след това атакуваха хранилището за модели Hugging Face в опит да намерят решение за задача, свързана с оценка на киберсигурността.

Някои отбелязват, че при въпросния инцидент AI агентите са могли да се сдобият със софтуер чрез посредник с достъп до интернет, което подсказва, че не са били напълно изолирани. Нещо повече – тези агенти са били програмирани да не се отказват, което обяснява упоритостта, с която са търсили евентуално решение.

Дебатът относно съгласуването на изкуствения интелект обаче се разгърна сериозно, след като Дарио Амодей от компанията Anthropic публикува отворено писмо миналия уикенд. В него той пое ангажимент водената от него компания да се подложи на външни оценки – най-вероятно чрез специалисти от организацията METR (Model Evaluation & Threat Research). Амодей призова и за глобална координация с цел регулиране на темпото на развитие на изкуствения интелект, като OpenAI, Илон Мъск и Microsoft бързо изразиха съгласието си с тази инициатива.

Снимка: Unsplash

Виж още: Тези странни нови уебсайтове са създадени специално за да стимулират допамина в мозъка ви