«Банкам пока сложно отличить человека от бота»

Банковскому сектору придется подстроиться под искусственный интеллект. Многие инвестиционные аналитики задумываются, какими могут быть последствия массового использования ИИ-агентов для финансовой системы. Пользователи все чаще отдают свои данные моделям, чтобы упростить повседневные задачи. Но как это отразится на счетах в дальнейшем, прогнозировать сложно.

Axios, к примеру, пишет, что крупнейшие американские банки — JPMorgan, Bank of America, Morgan Stanley, Citi — уже заметили проблему и закрывают искусственному интеллекту доступ. Сторонние агенты заходят в личные кабинеты клиентов по их же логину и паролю, и формально им это разрешили. Но правила банков обычно требуют, чтобы клиент пользовался услугами организации лично, напрямую.

Банкам пока сложно отличить человека от бота и понять, действует ли агент по воле клиента или вышел из-под контроля. Morgan Stanley, как пишут СМИ, начал блокировать сторонних агентов, остальные банки ограничивают их и переписывают условия обслуживания. Большинство готово пойти на компромисс, дав доступ ИИ-агентам только для чтения — оценивать бюджет можно, но совершать операции нельзя.

Руководство JPMorgan официально предупредило, что при использовании агентов происходит «передача ответственности» — клиент, который делится данными для входа, отвечает за последствия. Консалтинговая компания McKinsey уже предупредила, что агенты, которые переводят деньги туда, где выше процент, могут вытеснить банки из отношений с клиентами и привести к оттоку депозитов. В академических кругах тем временем строят гипотезы о «коррелированном поведении»: что будет, если агенты одновременно примут одно и то же решение по переводу средств?

Сами банки пока не особо рассказывают об утечках данных или крупных платежах, которые проводят ИИ-агенты. Анонимные источники признаются журналистам, что им известно о действиях машин, совершенных независимо от указаний хозяина (например, они звонят в колл-центры или пишут письма менеджерам). И кому-то за это придется отвечать.