Режим «только чтение»: как банки США пытаются обуздать ИИ-агентов в аккаунтах клиентов

Крупнейшие банки США обнаруживают в счетах клиентов сторонних ИИ-агентов, которым сами банки доступ не давали. Часть таких агентов, судя по всему, действует без указаний пользователей, пишет Axios со ссылкой на источники.

С проблемой столкнулись Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и другие банки. Как правило, агент или ИИ-ассистент заходит в аккаунт с разрешения клиента, используя его логин и пароль. Но даже в этом случае нарушаются правила большинства банков: входить в аккаунт должен сам владелец.

Руководители банков опасаются того, что может сделать агент с доступом к счету, особенно если пользователь разрешил ему совершать покупки или переводить деньги.

В других случаях, по данным собеседников издания, агенты, созданные для выполнения поручений клиента, звонили в колл-центры или совершали действия, явно не связанные с его указаниями.

Топ-менеджеры банков назвали ситуацию ужасающей. По словам одного из них, отрасль всерьез обеспокоена тем, что агенты получают доступ к счетам и могут предпринимать шаги, влияющие на финансы клиентов.

Главная трудность в том, что многие банки не могут определить, действует ли агент по указанию клиента. Один из топ-менеджеров признался Axios, что банку сложно не только отличать одних агентов от других, но и понимать, разрешил ли доступ пользователь или агент вышел из-под контроля.

Поскольку человека трудно отличить от бота, банки вынуждены блокировать такие технологии и срочно переписывать пользовательские соглашения.

Morgan Stanley уже начал блокировать доступ сторонних агентов к своим платформам, ограничения вводят также JPMorgan, Bank of America и Citi. Представитель Chase, розничного подразделения JPMorgan, напомнил, что никому нельзя сообщать свои логины и пароли.

В Morgan Stanley при этом заявили, что не сталкивались со случаями, когда неподконтрольные ИИ-агенты проникали бы на платформы банка.

Большинство банков уже разрешили или готовятся разрешить агентам доступ в режиме «только чтение»: так те смогут видеть финансовую информацию клиента, но не совершать операции. Такой доступ банки и сейчас дают сторонним приложениям, например сервису для планирования бюджета Quicken.

Собеседники Axios признают, что с ИИ-агентами придется искать компромисс: клиенты захотят ими пользоваться. Однако пока, по их словам, слишком широкий доступ несет слишком большие риски.

По оценке издания, у банков больше всего возможностей справиться с угрозами и использовать преимущества ИИ: у них есть деньги и опыт работы в качестве критической инфраструктуры. Однако одних денег может не хватить, предупредил один из источников: технологии развиваются так быстро, что новые уязвимости обнаруживаются прямо на ходу.

Поэтому банки не только вкладываются в предотвращение худших сценариев, но и готовятся к ним, в том числе прорабатывают планы, как быстро защитить или восстановить доступ клиентов к счетам.