![В изложбата "Незабравените читалища на София" книгите и спомените оживяват](https://hicomm.bg/uploads/articles/202409/76859/300-mainimage-v-nezabravenite-chitalishcha-na-sofiya-knigite-i-spomenite-ozhivyavat.jpg)
Разбирането, че свръхинтелигентните машини могат един ден да застрашат обществото ни, не е ново, но напоследък идеята става все по-реална.
Две от водещите имена в разработката на изкуствен интелект - DeepMind на Google и OpenAI, финансирана от Илон Мъск - обединяват сили, за да намерят практическо решение на проблема. За целта учените ще се опитат да дадат отговор на надвисналия над над въпрос - как да предотвратиш излизането на умния софтуер от правия път?
"За да разберем и спрем лошите неща, които могат да станат в бъдеще, трябва да изучаваме относително баналните проблеми в AI системите днес", казва Дарио Амодей, специалист по кибер безопасност от OpenAI.
Той и колегите му се надяват, че тяхното сътрудничество ще вдъхнови и други да започнат съвместна работа за това, как да предотвратят опасни действия от страна на машините. Целта на проекта на OpenAI и DeepMind е да се установят добри практики, които след това да бъдат възприети от максимално широк кръг организации.
"Когато един ден се изправим лице в лице с могъщи AI системи, можем да бъдем експерти в това, как да ги накараме да общуват с нас като хора", счита Амодей.
И ако това стане, може би когато първата суперинтелигентна машина отвори електронните си очи, тя ще ни погледне със съчувствие.