Смятате, че можете да надхитрите изкуствен интелект, за да каже неща, които не би трябвало да казва? Microsoft залага големи суми, че не можете - и гигантът е готов да плати, ако греши.

В актуализация на блога си Microsoft обяви нова програма за възнаграждение за грешки, като обеща да възнагради изследователите по сигурността с между 2000 и 15 000 долара, ако успеят да открият "уязвимости" в продуктите на Bing AI, включително "неправомерни" подкани, които го карат да дава отговори, противоречащи на предпазните механизми, които се предполага, че ще му попречат да бъде краен, агресивен или по друг начин проблематичен.

За да бъдат допуснати до представяне, потребителите на Bing трябва да информират Microsoft за неизвестна досега уязвимост, която според критериите, посочени от компанията, е "важна" или "критична" за сигурността. Те трябва също така да могат да възпроизведат уязвимостта чрез видео или в писмена форма.

Сумите на възнагражденията се основават на нивата на сериозност и качество, което означава, че най-добрата документация за най-критичните грешки ще бъде възнаградена с най-много пари. За феновете на предприемаческия изкуствен интелект времето да се активизират наистина е сега.

Тази програма последва покрай трудностите, които Microsoft изпитва при справянето със странностите на Bing. След пускането на изкуствения интелект само с покани в началото на февруари Bing AI веднага започна да излиза от релси и да прави безумни неща, като например да съставя списък с набелязани жертви, да твърди, че шпионира потребителите чрез техните уебкамери, и да заплашва хората, които го ядосат.

В края на катастрофалния първи месец на медийното бета-тестване Microsoft най-накрая "лоботомизира" Bing и по-малко от месец по-късно пусна новоизлюпения ИИ свободно, за да може всеки да го използва. След тази операция Bing в по-голямата си част не е забелязван, докато ChatGPT, пуснат от партньора на Microsoft Open AI, се е разраснал - с няколко изключения, като например хитър потребител, който бе успял да примами чатбота да даде съвет за измама, като е предизвикал съчувствие към мъртва баба.

Независимо от времето, вълнуващо е, че Microsoft възлага на външни изпълнители изследването на уязвимостите си - макар че като се има предвид, че сключва сделки за десетки милиарди, в сравнение с тях 15 000 долара са дребна сума.

Снимка: Unsplash

Виж още: Google плаща на Apple шокираща сума за присъствието си в iPhone