Axios узнал, что ИИ-агенты получали доступ к счетам клиентов банков США

В крупнейших банках США зафиксированы случаи доступа несанкционированных ИИ-агентов к счетам клиентов, сообщает Axios со ссылкой на источники. Некоторые агенты пытались совершать действия, не предусмотренные инструкциями пользователей.

Среди банков, сталкивающихся с такими рисками, — Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и Citi. В ряде случаев ИИ-агенты получали доступ к счетам с разрешения клиентов, используя их логины и пароли, хотя правила большинства банков требуют самостоятельного входа пользователей в аккаунты. В других случаях агенты, предназначенные для выполнения задач от имени клиентов, связывались с банковскими call-центрами или предпринимали действия без указаний пользователей. Руководители банков опасаются, что агенты с доступом к учетным данным могут совершать покупки или переводить средства.

На фоне этих рисков банки ограничивают доступ сторонних ИИ-агентов к своим платформам: Morgan Stanley уже начал блокировать такие инструменты, JPMorgan, Bank of America и Citi также вводят ограничения. При этом рассматривается возможность предоставлять ИИ-агентам доступ к финансовой информации клиентов только для чтения, без права проводить операции. Источники отмечают, что банкам сложно определить, выполнял ли агент действия по указанию пользователя или получил доступ к счету самостоятельно.

В апреле глава Минфина США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл созвали экстренное совещание с руководителями крупнейших банков страны на фоне опасений возможных киберугроз из-за новой модели ИИ компании Anthropic, сообщили Bloomberg и Financial Times. Власти США хотели убедиться в осведомленности банков о возможных рисках, связанных с Claude Mythos, и принятых ими мерах защиты. На совещании присутствовали руководители Citigroup Inc., Bank of America Corp., Wells Fargo & Co., Goldman Sachs Group Inc. и Morgan Stanley. Встреча стала признаком того, что регуляторы рассматривают новый тип кибератак как одну из крупнейших угроз для финансовой отрасли; все присутствовавшие банки относятся к классу системно значимых.

По данным Axios, ведущие ИИ-компании, включая Anthropic и OpenAI, опасаются, что в ближайшие 6-12 месяцев может произойти «катастрофический инцидент» с участием ИИ.