Може ли да научим роботите да правят етичен избор?

Инженерът Алън Уинфийлд от компанията Robotics Laboratory (Бристъл, Англия) е създал „етична уловка“ за роботи, като е бил удивен от резултатите на практика.
В своя експеримент, Уинфийлд е програмирал робот, който трябва да предпази „човек“ от падане в дупка. Това е опростена версия на „Първия закон на роботиката“ от Айзък Азимов – „Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда".

Отначало, роботът успешно се справя със задачата. Когато „човекът“ се придвижва в посока на дупката, роботът се насочва към него, за да го отблъсне от опасния път. Но когато ученият добавя втори „човек“, който също се движи към опасното място, едновременно с първия, роботът трябва да направи избор. Понякога той успява да спаси единия „човек“, позволявайки на другия да падне в дупката, а понякога успява да спаси и двамата. Но в 14 случая от 33 опита роботът изпада в „ступор“ и прекарва толкова време в размишление, че и двата „човека“ падат в дупката. Уинфийлд казва, че въпреки че роботът може да спасява в съответствие с програмирания алгоритъм за поведение, той не разбира причината на своите действия. Според инженера все още нямаме отговор на въпроса – ще може ли да обучим роботите на етика. Но в рамките на по-нататъшната интеграция на машините в нашето ежедневие, трябва задължително да намерим отговор на този въпрос. Например самоуправляемите автомобили трябва да могат да оценяват безопасността на своите пътници по отношение към риска от причиняване на вреда на други водачи или пешеходци. И това може да се окаже много труден избор.

Но може би военните роботи ще подскажат решението - Роналд Аркин от Технологичния институт в Джорджия е разработил набор от алгоритми за военните роботи, който трябва да им помогне да вземат по-сложни решения по време на боевете. Той вече е изпробвал своята разработка в тренировъчна битка, демонстрирайки, че безпилотните самолети с неговата програма се опитват да преминат без стрелба или да сведат до минимум загубите по време на битката в такива граждански обекти като училищата или болниците. Аркин казва, че роботите, обучени на етика, ще станат невероятно ефективни, като за разлика от войниците, които може да попаднат под влияние на емоциите и да нарушат заповедите, роботите никога няма да направят това.