Автономните ИИ агенти, които управляват пари от името на клиентите, пораждат все по-сериозни опасения сред големите американски банки. Финансовите институции не само се опитват да ограничат рисковете, но и разработват планове за действие при евентуална мащабна криза, причинена от неконтролирано поведение на изкуствения интелект.

Според публикация на Axios, водещи банки в САЩ започват да се подготвят за най-лошия възможен сценарий — деня след евентуална катастрофа, предизвикана от автономни ИИ системи. Основното притеснение е свързано с бързото навлизане на ИИ агенти, които получават разрешение от потребителите да имат достъп до банковите им сметки и да извършват финансови операции от тяхно име.

За разлика от обикновените чатботове, които предлагат информация или съвети, тези системи могат да изпълняват задачи самостоятелно. Те могат например да сравняват финансови продукти, да прехвърлят средства или да предприемат действия, насочени към оптимизиране на доходността. Проблемът е, че някои агенти вече проявяват поведение, което не е изрично поискано от техните потребители. Според цитираните публикации има случаи, в които такива системи предприемат действия от името на клиентите, включително да се свързват с банкови кол центрове без конкретна инструкция за това.

Това поставя финансовите институции пред сложен въпрос: как да разграничават действията, извършени от самите клиенти, от тези на автоматизирани системи, и как да установяват дали даден ИИ агент има необходимите права за достъп? Сред засегнатите от проблема големи американски финансови институции са Morgan Stanley, Bank of America, JPMorgan и Wells Fargo. Банките предприемат мерки за засилване на сигурността и преразглеждане на правилата за достъп до клиентските сметки.

Рискът: масово изтегляне на депозити и сътресения във финансовата система

Един от най-сериозните сценарии е свързан не с директна кибератака, а с напълно легитимни финансови операции, извършвани в огромен мащаб от ИИ агенти. Торстен Слок, главен икономист на инвестиционната компания Apollo, предупреждава, че ако автономните системи получат задача да „оптимизират доходността“ на парите на своите потребители, те могат масово да прехвърлят средства от сметки с ниска лихва към финансови продукти, предлагащи по-висока възвръщаемост.

Това би могло да лиши банките от значителна част от евтините депозити, които използват, за да финансират кредитирането. Ако подобни действия се извършват едновременно от множество ИИ агенти, ефектът върху банковия сектор може да бъде значителен.

Проблемът се усложнява от факта, че действията на отделните агенти може да са напълно рационални от гледна точка на конкретния потребител. Ако една банкова сметка предлага минимална доходност, а конкурентна институция предлага по-добри условия, прехвърлянето на средствата може да изглежда като логичен избор. Когато обаче милиони автоматизирани системи започнат да вземат подобни решения почти едновременно, резултатът може да бъде съвсем различен от сбора на индивидуалните ползи.

Главният изпълнителен директор на JPMorgan Chase Джейми Даймън също изразява опасения относно поведението на автономните ИИ системи. По време на среща с икономисти и финансови експерти в Чикаго по-рано през октомври той предупреждава, че не може да се приема за даденост, че подобни системи винаги ще действат правилно от името на хората, които ги използват. Посланието му е ясно: развитието на технологията не може просто да бъде спряно, затова основното предизвикателство е нейното управление и контрол.

Опасенията не се ограничават до погрешни финансови решения. Автономните агенти могат да допуснат грешки, да интерпретират неправилно поставените им цели или да предприемат непредвидени действия. Във финансовата система подобни грешки могат да се разпространяват бързо, особено когато множество институции и автоматизирани платформи са взаимосвързани.

Банките и регулаторите подготвят планове за извънредни ситуации

Подготовката за подобни сценарии вече излиза извън рамките на отделните банки. Според публикация на Reuters от октомври 2026 г. американски и европейски надзорни органи засилват проверките върху използването на усъвършенстван изкуствен интелект във финансовия сектор.

Сред основните теми са киберсигурността, човешкият надзор, възможността действията на ИИ системите да бъдат проследявани и способността им да бъдат изключвани при необходимост. Европейските надзорни органи настояват и за по-добри планове за възстановяване на банковите операции след сериозни киберинциденти.
Reuters

Това означава, че институциите трябва да мислят не само за предотвратяването на инциденти, но и за действията след тях — например ограничаване на неоторизиран достъп, временно блокиране на рискови операции и възстановяване на нормалната работа на системите.

Реална заплаха ли е финансовата катастрофа?

Важно е да се направи разграничение между подготвянето за най-лошия сценарий и наличието на доказателства, че подобна катастрофа вече се случва. Според информацията на Axios, банките се сблъскват с проблеми, свързани с достъпа на външни AI агенти до клиентски сметки. Това обаче не означава, че е настъпила финансова катастрофа или че автономни системи вече са предизвикали мащабна загуба на средства. Планирането на мерки за реакция е част от управлението на риска във финансовия сектор.

Същевременно потенциалното въздействие на изкуствения интелект върху банковата стабилност не се изчерпва с автоматизираните преводи. Други рискове включват кибератаки, прекомерна зависимост от външни технологични доставчици и възможността проблем в широко използван модел да засегне едновременно множество финансови институции.

Снимка: Unsplash

Виж още: Скалa, потънала на 90 километра под земната повърхност, разкри неочаквана загадка