Искусственный интеллект и машинное обучение в сфере финансовых услуг: что говорят регуляторы?

В 2022 году никто в среде Всемирного альянса не мог и не должен был пытаться уйти от преобразующего воздействия технологий искусственного интеллекта (ИИ) и машинного обучения (МО). Как и при любых изменениях такого масштаба, каковы потенциальные выгоды и риски? Эти вопросы встают по мере того, как эти две взаимосвязанные группы технологий внедряются все глубже. Чтобы начать отвечать на них, необходимо исходить из основополагающего тезиса: законодательство и регулирование задают ориентиры, определяющие рамки этой отрасли. Несколько месяцев назад Международная организация комиссий по ценным бумагам (IOSCO) опубликовала свой окончательный доклад, посвященный вопросам регуляторов в отношении ИИ и МО.

Какие вопросы задали регуляторы?

Искусственный интеллект и машинное обучение все шире применяются в сфере финансовых услуг благодаря возросшей доступности данных и вычислительных мощностей. Использование ИИ и МО рыночными посредниками и управляющими активами меняет бизнес-модели компаний. Например, многие компании используют ИИ и МО для поддержки своих консультационных и вспомогательных услуг, управления рисками, идентификации и мониторинга клиентов, выбора торговых алгоритмов и управления портфелями. При этом, вероятно, изменились и их собственные профили рисков. Меняется и окружающая их среда рисков в целом: надлежащим ли образом оцениваются эти внешние изменения в отрасли?

Использование этих технологий может обеспечить значительный рост эффективности и выгоды для компаний и инвесторов, включая более высокую скорость исполнения и снижение стоимости инвестиционных услуг. Вместе с тем их использование может также порождать или усиливать определенные риски, которые потенциально способны повлиять на эффективность финансовых рынков и нанести ущерб клиентам.

IOSCO определила использование ИИ и МО рыночными посредниками и управляющими активами в качестве одного из ключевых приоритетов.[1] В апреле 2019 года Совет IOSCO поручил Постоянному комитету 3 организации по «Регулированию рыночных посредников» и Постоянному комитету 5 по «Управлению инвестициями» изучить действующие и потенциальные передовые практики государственного надзора за внедрением и последствиями этих технологий. Комитетам было предложено разработать руководящие указания, которые юрисдикции-члены могли бы рассмотреть для принятия в целях устранения рисков, связанных с ведением бизнеса.

Потенциальные риски, выявленные в Консультационном докладе

Заявления IOSCO видны сотрудникам комплаенс-подразделений в сфере финансовых услуг по всему миру. IOSCO провела опросы и круглые столы с рыночными посредниками, а также взаимодействовала с управляющими активами, чтобы выяснить, как используются ИИ и МО. Были поставлены вопросы о том, какие риски могут с этим быть связаны.

В Консультационном докладе, опубликованном в июне 2020 года,[2] были выделены следующие области, в которых могут возникать потенциальные риски и ущерб в связи с разработкой, тестированием и внедрением этих технологий:

• управление и надзор;
• разработка алгоритмов, их тестирование и постоянный мониторинг;
• качество данных и предвзятость;
• прозрачность и объяснимость;
• аутсорсинг; и
• этические вопросы.

Руководящие указания IOSCO

На основе ответов, полученных группой глобальных регуляторов, сформированной для этой консультации, окончательный доклад содержит руководящие указания, призванные помочь членам IOSCO в надзоре за рыночными посредниками и управляющими активами, использующими ИИ и МО.

Руководящие указания включают шесть мер, отражающих ожидаемые стандарты поведения соответствующих участников частного сектора. Еще раз подчеркнем, что слово «руководящие» здесь особенно важно, поскольку каждая юрисдикция должна адаптировать глобальный принцип к условиям своего рынка, правовой и регуляторной среды. Членам IOSCO и компаниям также следует учитывать соразмерность любых мер реагирования при их реализации.

По мере развития технологий использование ИИ и МО, скорее всего, будет расширяться, и вполне вероятно, что регуляторная база должна будет развиваться параллельно, чтобы реагировать на связанные с этим новые риски. IOSCO предупредила, что доклад 2022 года, включая содержащиеся в нем определения и руководящие указания, может быть в будущем пересмотрен и обновлен. При адаптации глобальных руководящих принципов национальным органам власти рекомендуется при необходимости идти дальше.

Мера 1: Регуляторам следует рассмотреть возможность требовать от компаний назначения представителей высшего руководства, ответственных за надзор за разработкой, тестированием, внедрением, мониторингом и контролем ИИ и МО. Это включает документально оформленную систему внутреннего управления с четким распределением ответственности. Лицу или группе лиц достаточно высокого уровня, обладающим соответствующими навыками и знаниями, должно быть поручено утверждение первоначального внедрения и существенных обновлений этих технологий.

Мера 2: Регуляторам следует требовать от компаний тестирования и мониторинга используемых ими алгоритмов для постоянной проверки результатов применяемых методов ИИ и МО. Тестирование должно проводиться до внедрения в среде, отделенной от рабочей, чтобы убедиться, что ИИ и МО:

(a) ведут себя ожидаемым образом как в стрессовых, так и в обычных рыночных условиях; и

(b) функционируют в соответствии с регуляторными требованиями.

Мера 3: Регуляторам следует требовать, чтобы компании обладали достаточными навыками, компетенциями и опытом для разработки, тестирования, внедрения, мониторинга и надзора за средствами контроля над создаваемыми ими ИИ и МО. Подразделения комплаенса и управления рисками должны быть способны понимать и критически оценивать создаваемые алгоритмы, а также проводить комплексную проверку любых сторонних поставщиков, включая уровень знаний, компетенций и опыта, продемонстрированный поставщиком именно в контексте финансовых услуг.

Мера 4: Регуляторам следует требовать от компаний понимания своей зависимости от сторонних ИТ-поставщиков всех видов и активного управления этими отношениями. Это включает мониторинг их работы и осуществление надзора. Для обеспечения надлежащей подотчетности у компаний должны быть четкое соглашение об уровне обслуживания и договор, определяющие объем и ответственность в отношении переданных на аутсорсинг функций и их поставщика. Должны быть установлены четкие показатели эффективности, а также права и средства защиты на случай неудовлетворительной работы.

Мера 5: Регуляторам следует определить, какой уровень раскрытия информации об использовании ИИ и МО требуется от компаний, в том числе:

• требовать от компаний раскрытия клиентам содержательной информации о том, как использование этих технологий влияет на результаты для клиентов;
• рассмотреть, какие сведения они могут запрашивать у компаний, использующих ИИ и МО, чтобы обеспечить надлежащий и эффективный надзор за этими компаниями.

Мера 6: Регуляторам следует рассмотреть возможность требовать от компаний наличия надлежащих средств контроля, гарантирующих, что данные, лежащие в основе работы ИИ и МО, обладают достаточным качеством для предотвращения предвзятости и достаточно широки для обоснованного применения этих инструментов.

Помимо этих мер IOSCO, Принципы корпоративного управления G20/ОЭСР[3] призывают советы директоров осуществлять надзор за управлением рисками в масштабах организации, а также понимать, рассматривать и утверждать соответствующие предложения и их текущий внутренний мониторинг.

Выводы для Всемирного альянса

Надзорные органы — члены IOSCO представляют все регионы мира. Финансовые услуги, за которыми они надзирают, столь же разнообразны, как и финансовые центры — члены Всемирного альянса. Именно поэтому IOSCO работает на уровне принципов, передовых практик и рекомендаций; она не может написать правило для дословного переноса в законодательство и ожидать одинакового правоприменения во всех юрисдикциях.

У этих преобразующих событий есть и другая сторона: в своей собственной работе органы власти должны эффективно внедрять RegTech. Надзорные органы, применяющие сопоставимые технологии ИИ и МО для осуществления надзора, должны осознавать риски и выгоды не хуже частного сектора. Это приведет к интересным дискуссиям в каждой отдельной юрисдикции.

[3] https://www.oecd.org/corporate/principles-corporate-governance/. Текст доступен на 13 языках.

[2] The use of artificial intelligence and machine learning by market intermediaries and asset managers, консультационный доклад Совета IOSCO, июнь 2020 года, доступен по адресу: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] Board Priorities - IOSCO work program for 2019, 25 марта 2019 года, доступно по адресу: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf