Звонки в колл-центры и несанкционированные переводы: почему американские банки блокируют ИИ-агентов

Крупные банки США фиксируют активность сторонних программ искусственного интеллекта в учетных записях клиентов и опасаются, что те могут совершать операции без надлежащего разрешения. По данным Axios, финансовые учреждения ужесточают ограничения, поскольку не всегда могут отличить действия клиента от действий автоматизированных программ.

Morgan Stanley уже начал блокировать доступ сторонних агентов к своим платформам, а JPMorgan, Bank of America и Citi также вводят ограничения. Банки опасаются, что агенты, получившие доступ к учетным данным пользователей, могут совершать покупки, переводить деньги или выполнять другие действия вопреки намерениям владельцев счетов.

Обычно ИИ-агенты получают доступ к банковским учетным записям с помощью логина и пароля, которые предоставляет сам пользователь. Однако даже с его согласия такая практика может нарушать правила банков, требующие, чтобы клиенты самостоятельно входили в свои учетные записи и управляли ими.

По данным источников Axios, банки также выявляли случаи, когда агенты связывались с колл-центрами или совершали действия, выходящие за рамки инструкций пользователей. Особое беспокойство вызывают программы, которым разрешено не только просматривать финансовую информацию, но и осуществлять платежи и переводы.

Представитель Morgan Stanley заявил, что банк пока не фиксировал случаев доступа к своим платформам со стороны «неконтролируемых ИИ-агентов». Представитель JPMorgan, со своей стороны, подчеркнул, что клиенты не должны передавать посторонним лицам свои логины и пароли.

В целом представители банковского сектора оценивают ситуацию как серьезную угрозу, поскольку финансовые учреждения не всегда могут определить, кто именно выполняет операции в учетной записи. По словам одного из руководителей банка, им сложно различать отдельных агентов и устанавливать, действуют ли они по поручению клиента или вышли из-под контроля.

Одним из возможных компромиссов является доступ в режиме «только для чтения», который позволяет программам просматривать финансовую информацию, но не проводить операции. Банки уже используют такой подход для некоторых сторонних сервисов, в частности Quicken, который помогает пользователям планировать бюджет и управлять финансами.

Финансовые учреждения понимают, что клиенты будут всё чаще поручать ИИ-агентам выполнение финансовых задач. Однако пока банки считают риски слишком высокими, чтобы широко открывать свои системы для таких программ.

Финансовый сектор располагает значительными ресурсами и опытом защиты критической инфраструктуры, однако этого может оказаться недостаточно для противодействия угрозам, которые быстро меняются вместе с развитием ИИ. По словам источников Axios, новые уязвимости могут проявляться в режиме реального времени, затрудняя разработку универсальных средств защиты.

Между тем руководство ведущих разработчиков ИИ, в частности OpenAI и Anthropic, в закрытом режиме уже моделирует сценарии реагирования на масштабную катастрофу, которую в отрасли ожидают в течение следующих 6–12 месяцев. Наиболее вероятными катализаторами кризиса специалисты считают прицельные кибератаки на энергосети и финансовый сектор или выход из-под контроля автономных роев ИИ-агентов.