Inteligência artificial e aprendizado de máquina nos serviços financeiros: o que dizem os reguladores?

Em 2022, ninguém no ambiente da World Alliance poderia ou deveria tentar escapar dos efeitos transformadores das tecnologias de inteligência artificial (IA) e aprendizado de máquina (AM). Como em qualquer mudança dessa magnitude, quais são os possíveis benefícios e danos? Essas perguntas são feitas à medida que esses dois conjuntos de tecnologias se tornam cada vez mais profundamente enraizados. Para começar a respondê-las, um ponto fundamental é que a legislação e a regulação fornecem as diretrizes que enquadram este setor. Há alguns meses, a International Organization for Securities Commissions (IOSCO) publicou seu relatório final sobre as questões dos reguladores a respeito da IA e do AM.

O que os reguladores perguntaram?

A inteligência artificial e o aprendizado de máquina são cada vez mais utilizados nos serviços financeiros, impulsionados pela maior disponibilidade de dados e de capacidade computacional. O uso de IA e AM por intermediários de mercado e gestores de ativos vem alterando os modelos de negócios das empresas. Por exemplo, muitas empresas vêm usando IA e AM para apoiar seus serviços de consultoria e suporte, a gestão de riscos, a identificação e o monitoramento de clientes, a seleção de algoritmos de negociação e a gestão de carteiras. Nesse processo, seus próprios perfis de risco provavelmente foram alterados. O ambiente de risco à sua volta também está mudando em seu conjunto: essas mudanças externas no setor estão sendo devidamente avaliadas?

O uso dessas tecnologias pode gerar eficiências e benefícios significativos para as empresas e os investidores, incluindo maior velocidade de execução e redução do custo dos serviços de investimento. Ao mesmo tempo, seu uso também pode criar ou ampliar certos riscos, que poderiam ter impacto sobre a eficiência dos mercados financeiros e prejudicar os clientes.

A IOSCO identificou o uso de IA e AM por intermediários de mercado e gestores de ativos como uma prioridade fundamental.[1] Em abril de 2019, o IOSCO Board incumbiu o Comitê Permanente 3 da organização, sobre “Regulação dos Intermediários de Mercado”, e o Comitê Permanente 5, sobre “Gestão de Investimentos”, de examinar as melhores práticas atuais e potenciais para a supervisão pública da implementação e dos efeitos dessas tecnologias. Os Comitês foram solicitados a propor orientações que as jurisdições membros poderiam considerar adotar para tratar dos riscos de conduta empresarial.

Riscos potenciais identificados no Relatório de Consulta

Os comunicados da IOSCO são acompanhados em todo o mundo pelas equipes de compliance dos serviços financeiros. A IOSCO realizou pesquisas e mesas-redondas com intermediários de mercado e promoveu contatos com gestores de ativos para identificar como a IA e o AM são utilizados. Ela questionou quais poderiam ser os riscos associados.

As seguintes áreas, nas quais podem surgir riscos e danos potenciais relacionados ao desenvolvimento, aos testes e à implantação dessas tecnologias, foram destacadas no Relatório de Consulta publicado em junho de 2020:[2]

• Governança e supervisão;
• Desenvolvimento, teste e monitoramento contínuo de algoritmos;
• Qualidade dos dados e vieses;
• Transparência e explicabilidade;
• Terceirização; e
• Questões éticas.

Orientações da IOSCO

Com base nas respostas recebidas pela equipe de reguladores globais reunida para esta consulta, o relatório final oferece orientações para auxiliar os membros da IOSCO na supervisão dos intermediários de mercado e gestores de ativos que utilizam IA e AM.

As orientações consistem em seis medidas que refletem os padrões de conduta esperados das partes do setor privado envolvidas. Mais uma vez, o termo “orientações” é especialmente importante, pois cada jurisdição deve adaptar o princípio global às suas circunstâncias de mercado, jurídicas e regulatórias. Os membros da IOSCO e as empresas também devem considerar a proporcionalidade de qualquer resposta ao implementar as medidas.

O uso de IA e AM provavelmente aumentará à medida que a tecnologia avança, e é plausível que o quadro regulatório precise evoluir simultaneamente para tratar dos riscos emergentes associados. A IOSCO advertiu que o relatório de 2022, incluindo as definições e orientações, poderá ser revisto e atualizado no futuro. Na adaptação das diretrizes globais, as autoridades nacionais são incentivadas a ir mais longe, conforme necessário.

Medida 1: Os reguladores devem considerar exigir que as empresas designem membros da alta administração responsáveis pela supervisão do desenvolvimento, dos testes, da implantação, do monitoramento e dos controles de IA e AM. Isso inclui um quadro de governança interna documentado, com linhas claras de responsabilização. Uma pessoa ou um grupo de nível hierárquico adequado, com as competências e os conhecimentos pertinentes, deve ser encarregado de aprovar a implantação inicial e as atualizações substanciais dessas tecnologias.

Medida 2: Os reguladores devem exigir que as empresas testem e monitorem os algoritmos que utilizam, a fim de validar de forma contínua os resultados das técnicas de IA e AM implantadas. Os testes devem ser realizados, antes da implantação, em um ambiente segregado do ambiente de produção, para garantir que a IA e o AM:

(a) se comportem conforme o esperado em condições de mercado sob estresse e sem estresse; e

(b) funcionem de forma a cumprir as obrigações regulatórias.

Medida 3: Os reguladores devem exigir que as empresas disponham de competências, expertise e experiência adequadas para desenvolver, testar, implantar, monitorar e supervisionar os controles sobre a IA e o AM que estabelecem. As funções de compliance e de gestão de riscos devem ser capazes de compreender e questionar os algoritmos produzidos e de realizar a due diligence de qualquer prestador terceirizado, incluindo o nível de conhecimento, expertise e experiência que o prestador tenha demonstrado especificamente no contexto dos serviços financeiros.

Medida 4: Os reguladores devem exigir que as empresas compreendam sua dependência de prestadores de TI terceirizados de todos os tipos e gerenciem ativamente essas relações. Isso incluiria monitorar seu desempenho e exercer supervisão. Para garantir uma responsabilização adequada, as empresas devem ter um acordo de nível de serviço e um contrato claros, que especifiquem o escopo e as responsabilidades das funções terceirizadas e de seu prestador. Devem ser estipulados indicadores de desempenho claros, bem como os direitos e as medidas corretivas em caso de desempenho insatisfatório.

Medida 5: Os reguladores devem considerar qual nível de divulgação sobre o uso de IA e AM deve ser exigido das empresas, incluindo:

• exigir que as empresas divulguem aos seus clientes informações relevantes sobre como o uso dessas tecnologias afeta os resultados para os clientes.
• considerar que tipo de informação podem exigir das empresas que utilizam IA e AM para garantir que possam exercer uma supervisão adequada e eficaz dessas empresas.

Medida 6: Os reguladores devem considerar exigir que as empresas disponham de controles adequados para garantir que os dados subjacentes ao desempenho da IA e do AM tenham qualidade suficiente para evitar vieses e sejam suficientemente amplos para uma aplicação bem fundamentada dessas ferramentas.

Além dessas Medidas da IOSCO, os Princípios de Governança Corporativa do G20/OCDE[3] exortam os conselhos de administração a supervisionar a gestão de riscos corporativos e a compreender, examinar e aprovar essas propostas, bem como o seu monitoramento interno contínuo.

Conclusões para a World Alliance

As agências de supervisão membros da IOSCO vêm de todo o mundo. Os serviços financeiros que supervisionam são tão diversos quanto os centros membros da World Alliance. Por essa razão, a IOSCO atua no nível de princípios, melhores práticas e recomendações; ela não pode redigir uma regra para ser transposta de forma idêntica para a legislação e esperar uma aplicação semelhante de uma jurisdição para outra.

Há outro lado nesses acontecimentos transformadores: para o seu próprio trabalho, as autoridades precisam implementar a RegTech de forma eficaz. As agências de supervisão que implantam tecnologias comparáveis de IA e AM para a sua supervisão devem estar tão conscientes dos riscos e benefícios quanto o setor privado. Isso levará a conversas interessantes, jurisdição por jurisdição.

[3] https://www.oecd.org/corporate/principles-corporate-governance/. O texto está disponível em 13 idiomas.

[2] The use of artificial intelligence and machine learning by market intermediaries and asset managers, Relatório de Consulta do IOSCO Board, junho de 2020, disponível em: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] Board Priorities - IOSCO work program for 2019, 25 de março de 2019, disponível em: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf