Банк Англии считает, что финансовым регуляторам необходимо менять подход к надзору за искусственным интеллектом, особенно на фоне быстрого развития агентных ИИ-систем, которые способны самостоятельно выполнять платежные, торговые и операционные действия.
С таким заявлением выступила заместитель управляющего Банка Англии Сара Бриден на мероприятии центрального банка в Португалии. По ее словам, действующая регуляторная архитектура изначально не была рассчитана на технологии, где решения могут принимать автономные цифровые агенты.
Бриден отметила, что в финансовой системе появляются новые зоны риска, связанные с использованием ИИ в платежах, торговле и управлении операциями. При этом прежняя логика контроля, при которой за каждым действием системы стоит человек, становится все менее применимой.
«Наши системы были созданы без учета автономных агентов, и полагаться на человека для всех действий агентов вряд ли реалистично», — заявила она.
Отдельное внимание представитель Банка Англии уделила угрозе кибератак. По ее словам, с развитием ИИ финансовому сектору нужно быть готовым к тому, что технологические сбои и неожиданные риски будут возникать чаще.
«Нам необходимы политические рамки, внутренние навыки и институциональные структуры, готовые к более частым технологическим неожиданностям. Киберриски, агентные платежи и торговля — вот те области применения, которые сегодня находятся в поле моего зрения. Но этот список может выглядеть иначе уже через год, если не раньше», — добавила Бриден.
Среди возможных инструментов она назвала более активное применение сценарного анализа, а также использование самого ИИ для мониторинга и управления рисками. В частности, речь может идти о создании цифровых двойников, которые позволят моделировать взаимодействие банков и оценивать последствия различных стресс-сценариев.
Бриден также сообщила, что Банк Англии изучает механизм «усиленного восстановления» для критически важных систем. Такой подход может предусматривать ситуацию, при которой один банк временно берет на себя часть процессов другого участника рынка в случае серьезного сбоя.
Кроме того, регулятор рассматривает необходимость «аварийных выключателей» и автоматических ограничителей, которые могли бы приостанавливать или ограничивать торговлю на рынке, если сбойные ИИ-модели спровоцируют резкое падение.
Выступление Бриден прозвучало вскоре после того, как Совет по финансовой стабильности также призвал усилить меры безопасности при внедрении ИИ-агентов в финансовой сфере.