Двама американски конгресмени – представителят Тед Лиу от 36-ия избирателен окръг на Калифорния и представителят Натаниъл Моран от 1-вия избирателен окръг на Тексас – са изготвили законопроект, който предоставя на Министерството на вътрешната сигурност широки правомощия да разпорежда на големите разработчици на изкуствен интелект да прекратят или забавят работата на оперативните си модели при извънредни ситуации, свързани с заплахи.

Законопроектът, наречен AI Kill Switch Act, ще се отнася за компании за изкуствен интелект, които генерират годишни приходи от технологии в размер на поне 500 милиона долара и внедряват модели, чиито разходи за изчислително обучение надвишават 100 милиона долара (един политически коректен начин да се каже OpenAI, Google, Anthropic и Microsoft).

Освен че дава на властите възможността да задействат аварийно изключване, законопроектът предвижда, че засегнатите компании трябва да поддържат конкретни технически възможности за изпълнение на многостепенна реакция. Това означава, че разработчиците трябва да спрат изводите на изкуствения интелект (процесът, при който изкуственият интелект генерира отговори или действия), да прекратят достъпа на потребителите, да ограничат изчислителните ресурси или да прехвърлят операциите към сигурни резервни системи.

Законът AI Kill Switch Act идва само няколко дни след като модел на OpenAI излезе извън контрол и атакува Hugging Face по време на проигргаване на вътрешен сценарий на 16 юли. Докато се опитваха да постигнат висок резултат в теста за киберсигурност, наречен ExploitGym, агентите с изкуствен интелект се сблъскаха с отслабени защитни бариери, избягаха от локалната си „затворена среда“ чрез прокси експлойт от типа „нулев ден“ и самостоятелно проникнаха в Hugging Face, за да откраднат отговорите от теста.

Когато екипите по сигурност на Hugging Face се опитаха да използват търговски модели на изкуствен интелект от най-ново поколение, за да анализират входящите логове за атаката, тези модели, филтрирани за безопасност, буквално отказаха да обработват данните за хакерската атака, така че Hugging Face беше принудена да използва самостоятелно хоствани модели с отворен вектор, за да разследва пробива в сигурността.

Съгласно предложението на Лиу и Моран, Министерството на вътрешната сигурност трябва да се консултира с директора на Националното разузнаване и с министъра на търговията, преди да издаде каквато и да е заповед, като има ясни тригери, които активират протокола. Тези сценарии включват изкуствен интелект, който предизвиква събитие, водещо до смъртта на 10 или повече лица или причиняващо икономически щети в размер на над 100 милиона долара.

Други предизвикващи подобна реакция събития включват случаи, в които ИИ лъже, за да скрие своите възможности от органите за надзор на безопасността, не се подчинява на своите човешки инструктори и променя собствените си правила за безопасност без разрешение, или се опитва да получи неразрешен достъп до тегловете на собствения си модел.

Ако компаниите не спазват изискванията, описани в законопроекта, те могат да бъдат подложени на огромни граждански санкции, налагани от федералните съдилища. Министърът на вътрешната сигурност може да налага глоби до 2 000 000 долара на ден за несъобщаване на инциденти, свързани с безопасността, или за липса на механизми за техническо изключване, като глобата скача до 20 000 000 долара на ден за неподчинение на пряка заповед за изключване от правителството.

Снимка: Unsplash

Виж още: 192 АА батерии захранват това необикновено РС, което върви с необичайна версия на Linux (ВИДЕО)