Предложен законопроект за безопасността на изкуствения интелект, подкрепян от Anthropic, би позволил на американските власти да спрат пускането на нов ИИ модел само при наличие на непосредствен риск от смъртта или тежкото нараняване на повече от 50 души или от материални щети над 1 милиард долара. Според публикация на Politico, проектът предвижда Министерството на търговията на САЩ да бъде единствената институция с правомощия да поиска подобна забрана от федерален съд.

Според предложението специализирани независими оценители, регистрирани в Министерството на търговията, ще извършват периодични проверки на разработчиците и техните най-модерни модели с изкуствен интелект.

Компаниите ще могат да заплащат за тези оценки, при условие че възнаграждението не компрометира независимостта на проверяващите. Целта е потенциалните опасности да бъдат установявани преди съответният модел да бъде пуснат в публична употреба.

Anthropic потвърждава, че проектът отразява принципите в собствената ѝ рамка за безопасност на напредналия изкуствен интелект. Представител на компанията заявява пред Politico, че организацията настоява за подобни мерки пред федералните и щатските законодатели от юни насам и смята, че Конгресът трябва да предприеме действия.

Предложеният законопроект се фокусира върху три основни категории заплахи:

Биологични оръжия — възможност ИИ да допринесе за създаването или разпространението на биологично оръжие.

Кибератаки — атаки, извършвани с помощта на изкуствен интелект или значително улеснени от него.

Загуба на контрол — ситуация, при която разработчикът вече не може да контролира свой ИИ модел или автономните агенти, работещи с него.

Ако независимите оценители установят непосредствен риск от подобно събитие, те ще трябва да уведомят Министерството на търговията в срок до 72 часа.

След това ведомството трябва да представи доказателствата пред федерален съдия във Вашингтон, окръг Колумбия. Именно съдът ще реши дали има основания пускането на модела да бъде спряно.

Една от най-съществените особености на предложението е, че други американски министерства, агенции и държавни служители няма да имат право самостоятелно да разпореждат спиране на пускането на ИИ модел. Така правомощията за подобна намеса ще бъдат силно централизирани.

Защо предложението предизвиква въпроси?

Високите прагове за намеса са сред най-спорните аспекти на проекта. Критиците могат да поставят въпроса дали е разумно властите да чакат потенциалната опасност да достигне мащаб, свързан с десетки жертви или милиардни щети, преди да могат да поискат спиране на даден модел. Съществува и практически проблем: прогнозата за възможните последици от една нова ИИ система е изключително трудна и на този ранен етап захранвана повече от научно-фантастично съдържание, познато ни от филми и книги, отколкото от реални събития и причинно-следствени връзки.

Снимка: Unsplash

Виж още: Само срещу 40 долара на ден може да си наемете хуманоиден робот, който да ви следва