От известно време насам изкуственият интелект е централна тема в света на технологиите, тъй като Microsoft продължава да обогатява продуктите си с ChatGPT, а Google се опитва да не изостава, като предлага свои собствени алтернативи. Въпреки че AI има потенциала да прави наистина впечатляващи неща - като например да генерира изображения въз основа на един ред текст, - започваме да виждаме все повече недостатъци на слабо регулираната технология. Последният пример за това са гласовите генератори с изкуствен интелект, които се използват за измама на хора.

Софтуерът за генериране на гласове с изкуствен интелект напоследък се появява на първите страници на вестниците най-вече заради кражбата на гласовете на актьори. Първоначално всичко, което се изискваше, бяха няколко изречения, за да може софтуерът убедително да възпроизведе звука и тона на говорещия. Оттогава технологията се е развила до степен, в която само няколко секунди диалог са достатъчни, за да се имитира някой с наистина прецизна точност.

В нов доклад на The Washington Post хиляди жертви твърдят, че са били измамени от самозванци, представящи се за техни близки. Съобщава се, че измамите с чужда самоличност са се превърнали във втория най-популярен вид измама в Америка с над 36 000 случая, отчетени през 2022 г. От тези 36 000 случая над 5000 жертви са били измамените по телефона, което според служители на Федералната комисия по търговия възлиза на общо 11 милиона долара загуби.

Една от историите, които се открояват, е свързана с възрастна двойка, която е изпратила над 15 000 долара чрез биткойн терминал на измамник, след като е повярвала, че е разговаряла със сина си. Гласът на изкуствения интелект е убедил двойката, че синът им има проблеми със закона, след като е убил американски дипломат при автомобилна катастрофа.

Подобно на жертвите в историята, тези атаки изглежда са насочени предимно към възрастните хора. Това не е изненада, тъй като възрастните хора са сред най-уязвимите, когато става въпрос за финансови измами. За съжаление съдилищата все още не са взели решение дали компаниите могат да бъдат държани отговорни за вреди, причинени от генератори на глас с изкуствен интелект или други форми на технологии с изкуствен интелект.

Снимка: Unsplash

Виж още: Бил Гейтс критикува онези, които се опитват да провокират AI