Според Организацията на обединените нации и Международния комитет на Червения кръст, в момента се разработват оръжия, задвижвани от изкуствен интелект, със способността да идентифицират цели и в някои случаи да вземат окончателно решение за атака, без да чакат човешка команда.

„Автономните оръжейни системи не са част от далечно бъдеще – надпреварата към по-голяма автономност в оръжейните системи вече е в ход“, заявяват представителите на ООН и МКЧК в съвместно изявление.

Технологията, която позволява на оръжие с изкуствен интелект, като например квадрокоптер, снабден с експлозиви, да се насочва към хора без човешки надзор, не е широко разпространена, но според някои доклади тя вече е била използвана на бойното поле. През юли руски дрон „Молния“ съобщи, че е убил трима цивилни в украинския град Запорожие, след като е бил изстрелян към район близо до бензиностанция. Съдебните разследвания разкриват, че дронът изглежда е използвал вграден изкуствен интелект, за да избере крайната си цел, вместо да разчита на човешки оператор.

Въпреки че точният дрон, замесен в смъртта на цивилни, не е открит, следователите, изследващи подобни дронове, са открили компютри Nvidia Jetson Orin, без видима антена за човешки контрол и софтуер, съдържащ предварително дефинирани категории цели.

„Оръжията нямаха антена за човешко пилотиране и имаха мощен бордов компютър с предварително обучени категории цели“, казва пред The ​​Los Angeles Times Стюарт Ръсел, експерт по компютърни науки и президент на Международната асоциация за безопасен и етичен изкуствен интелект.

За да сме точни, военната автоматизация съществува от десетилетия. Това, което се променя, е възможността за пълно премахване на хората от последната част от „веригата на убийствата“. Колкото повече даваме на ИИ свободата да взема решения самостоятелно, толкова по-важно става да се разбере колко човешка намеса е необходима, особено в бойна обстановка, където рискът за некомбатантите е много реален.

Един подход, дълго обсъждан в международен план, е „смислен човешки контрол“ – идеята, че хората трябва да запазят смислено участие в решенията за използване на смъртоносна сила. Правителствата и експертите от индустрията обаче се затрудняват да се споразумеят какво всъщност изисква това.

„Концепцията за смислен човешки контрол е била обсъждана през последните десет години и в този спор тя е била фундаментално неразбрана и представена погрешно, до голяма степен от едни и същи групи участници (академици, политически лидери и гражданско общество) по различни причини“, коментира Хедър Роф, експерт по ИИ и автономни оръжейни системи и старши научен сътрудник в Центъра за военноморски анализи.

Правителството на Съединените щати все по-често използва фразата „подходяща човешка преценка“, която се отнася до човешки надзор върху проектирането, тестването, разполагането и правилата за употреба на оръжието, вместо да се изисква от дадено лице да одобрява всеки отделен удар.

При този подход, едно оръжие би могло само да вземе решение за насочване, стига хората да са упражнили преценка на други етапи – например да решат къде, кога и при какви условия системата може да бъде използвана.

Тук дебатът се усложнява: дали човешкият надзор по-рано в процеса се брои, ако машината в крайна сметка избере целта?

Нещо повече, проблемът става все по-труден за овладяване. Оръжейните системи, задвижвани от изкуствен интелект, стават все по-способни и по-евтини, което ги прави все по-привлекателни за водене на война. След като едно оръжие демонстрира предимство на бойното поле, отказът от него става политически и военно много по-труден.

ООН и МКЧК за първи път призоваха за специфични ограничения върху автономните оръжия преди три години. Сега те подновиха този призив с по-голяма спешност, предупреждавайки, че оръжейните технологии се развиват по-бързо от международните правила, които ги регулират.

Тяхната позиция не е просто призив за забрана на всяко автономно оръжие. Те искат ясни забрани и ограничения, особено за оръжия, които могат автономно да се насочват към хора и системи, чиито ефекти не могат да бъдат надеждно предвидени. Това е много важно, защото автономна система, атакуваща входяща ракета, е коренно различна от тази, която решава кой човек да убие.

Организациите също така предупреждават за отговорност. Ако машина самостоятелно избере цел, отговорността може да стане по-трудна за проследяване, когато цивилни са убити. Дали тя е на програмиста, производителя, командира, оператора или държавата?

Междувременно, автономни оръжия се разработват на фона на войните в Украйна, Близкия изток, Судан и другаде. Учени и инженери, работещи върху военен ИИ, също изразиха загриженост относно посоката на технологията. ООН и МКЧК завършват с твърдението, че чакането, докато подобни оръжия станат масови, може да направи невъзможно прилагането на смислени ограничения.

Снимка: Unsplash

Виж още: Дъно на Apple 1 с подписа на Стив Возняк може да се продаде за баснословните 800000 долара