La inteligencia artificial y el aprendizaje automático en los servicios financieros: ¿qué dicen los reguladores?

En 2022, nadie en el entorno de la World Alliance podría ni debería intentar sustraerse a los efectos transformadores de las tecnologías de inteligencia artificial (IA) y aprendizaje automático (AA). Como ocurre con cualquier cambio de esta magnitud, ¿cuáles son los posibles beneficios y perjuicios? Estas preguntas se plantean a medida que estos dos conjuntos de tecnologías se integran cada vez más profundamente. Para empezar a responderlas, un punto fundamental es que la legislación y la regulación proporcionan las directrices que enmarcan este sector. Hace unos meses, la International Organization for Securities Commissions (IOSCO) publicó su informe final sobre las cuestiones planteadas por los reguladores en relación con la IA y el AA.

¿Qué han preguntado los reguladores?

La inteligencia artificial y el aprendizaje automático se utilizan cada vez más en los servicios financieros, impulsados por una mayor disponibilidad de datos y de capacidad de cálculo. El uso de la IA y el AA por parte de los intermediarios del mercado y los gestores de activos ha ido modificando los modelos de negocio de las empresas. Por ejemplo, muchas empresas han venido utilizando la IA y el AA para respaldar sus servicios de asesoramiento y apoyo, la gestión de riesgos, la identificación y el seguimiento de clientes, la selección de algoritmos de negociación y la gestión de carteras. En el proceso, es probable que sus propios perfiles de riesgo se hayan visto alterados. El entorno de riesgo que las rodea también está cambiando en su conjunto: ¿se están evaluando adecuadamente esos cambios externos del sector?

El uso de estas tecnologías puede generar importantes eficiencias y beneficios para las empresas y los inversores, entre ellos una mayor velocidad de ejecución y la reducción del coste de los servicios de inversión. Al mismo tiempo, su uso también puede crear o amplificar determinados riesgos, que podrían afectar a la eficiencia de los mercados financieros y perjudicar a los clientes.

IOSCO identificó el uso de la IA y el AA por parte de los intermediarios del mercado y los gestores de activos como una prioridad clave.[1] En abril de 2019, el Consejo de IOSCO encomendó al Comité Permanente 3 de la organización, sobre «Regulación de los intermediarios del mercado», y al Comité Permanente 5, sobre «Gestión de inversiones», que examinaran las mejores prácticas actuales y potenciales para la supervisión pública de la implantación y los efectos de estas tecnologías. Se pidió a los Comités que propusieran orientaciones que las jurisdicciones miembros pudieran plantearse adoptar para hacer frente a los riesgos de conducta empresarial.

Riesgos potenciales identificados en el informe de consulta

Los anuncios de IOSCO son seguidos en todo el mundo por el personal de cumplimiento normativo de los servicios financieros. IOSCO realizó encuestas y mesas redondas con intermediarios del mercado y llevó a cabo contactos con gestores de activos para determinar cómo se utilizan la IA y el AA. Se preguntaron cuáles podrían ser los riesgos asociados.

En el informe de consulta publicado en junio de 2020[2] se destacaron los siguientes ámbitos, en los que pueden surgir riesgos y perjuicios potenciales en relación con el desarrollo, las pruebas y la implantación de estas tecnologías:

• Gobernanza y supervisión;
• Desarrollo, pruebas y seguimiento continuo de los algoritmos;
• Calidad de los datos y sesgos;
• Transparencia y explicabilidad;
• Externalización; y
• Cuestiones éticas.

Orientaciones de IOSCO

Sobre la base de las respuestas recibidas por el equipo de reguladores mundiales constituido para esta consulta, el informe final ofrece orientaciones para ayudar a los miembros de IOSCO a supervisar a los intermediarios del mercado y gestores de activos que utilizan la IA y el AA.

Las orientaciones constan de seis medidas que reflejan las normas de conducta que se esperan de las partes del sector privado afectadas. Una vez más, el término «orientaciones» es especialmente importante, ya que cada jurisdicción debe adaptar el principio global a sus circunstancias de mercado, jurídicas y regulatorias. Los miembros de IOSCO y las empresas también deben tener en cuenta la proporcionalidad de cualquier respuesta al aplicar las medidas.

Es probable que el uso de la IA y el AA aumente a medida que avance la tecnología, y es plausible que el marco regulatorio deba evolucionar en paralelo para hacer frente a los riesgos emergentes asociados. IOSCO advirtió que el informe de 2022, incluidas las definiciones y orientaciones, podría revisarse y actualizarse en el futuro. Se anima a las autoridades nacionales a ir más allá, si fuera necesario, en su adaptación de las directrices globales.

Medida 1: Los reguladores deberían plantearse exigir a las empresas que designen a altos directivos responsables de supervisar el desarrollo, las pruebas, la implantación, el seguimiento y los controles de la IA y el AA. Ello incluye un marco de gobernanza interna documentado con líneas claras de rendición de cuentas. Debería encomendarse a una persona o grupo de nivel jerárquico adecuado, con las competencias y conocimientos pertinentes, la aprobación de la implantación inicial y de las actualizaciones sustanciales de estas tecnologías.

Medida 2: Los reguladores deberían exigir a las empresas que prueben y supervisen los algoritmos que utilizan para validar de forma continua los resultados de las técnicas de IA y AA implantadas. Las pruebas deberían realizarse, antes de la implantación, en un entorno separado del entorno de producción, para garantizar que la IA y el AA:

(a) se comportan según lo previsto en condiciones de mercado normales y de tensión; y

(b) funcionan de manera conforme con las obligaciones regulatorias.

Medida 3: Los reguladores deberían exigir a las empresas que dispongan de las competencias, los conocimientos y la experiencia adecuados para desarrollar, probar, implantar, supervisar y controlar la IA y el AA que establezcan. Las funciones de cumplimiento normativo y de gestión de riesgos deberían ser capaces de comprender y cuestionar los algoritmos generados y de llevar a cabo la diligencia debida respecto de cualquier proveedor externo, incluido el nivel de conocimientos, competencia y experiencia que dicho proveedor haya demostrado específicamente en el contexto de los servicios financieros.

Medida 4: Los reguladores deberían exigir a las empresas que comprendan su dependencia de proveedores externos de servicios informáticos de todo tipo y que gestionen activamente estas relaciones. Ello incluiría el seguimiento de su desempeño y el ejercicio de una supervisión. Para garantizar una rendición de cuentas adecuada, las empresas deberían contar con un acuerdo de nivel de servicio y un contrato claros que precisen el alcance y la responsabilidad de las funciones externalizadas y de su proveedor. Deberían estipularse indicadores de desempeño claros, así como los derechos y recursos en caso de desempeño deficiente.

Medida 5: Los reguladores deberían considerar qué nivel de divulgación del uso de la IA y el AA se exige a las empresas, lo que incluye:

• exigir a las empresas que faciliten a sus clientes información significativa sobre cómo el uso de estas tecnologías afecta a los resultados para los clientes.
• considerar qué tipo de información pueden exigir a las empresas que utilizan la IA y el AA para garantizar una supervisión adecuada y eficaz de dichas empresas.

Medida 6: Los reguladores deberían plantearse exigir a las empresas que dispongan de controles adecuados para garantizar que los datos en los que se basa el funcionamiento de la IA y el AA tengan la calidad suficiente para evitar sesgos y sean lo bastante amplios para una aplicación fundamentada de estas herramientas.

Además de estas Medidas de IOSCO, los Principios de Gobierno Corporativo del G20/la OCDE[3] instan a los consejos de administración a supervisar la gestión de riesgos de la empresa y a comprender, revisar y aprobar dichas propuestas, así como su seguimiento interno continuo.

Conclusiones para la World Alliance

Las agencias supervisoras miembros de IOSCO proceden de todo el mundo. Los servicios financieros que supervisan son tan dispares como los centros miembros de la World Alliance. Por este motivo, IOSCO trabaja en el plano de los principios, las mejores prácticas y las recomendaciones; no puede redactar una norma para su transposición idéntica a la legislación y esperar una aplicación similar de una jurisdicción a otra.

Estos acontecimientos transformadores tienen otra cara: para su propio trabajo, las autoridades deben implantar la RegTech con buenos resultados. Las agencias supervisoras que despliegan tecnologías comparables de IA y AA para su labor de supervisión deben ser tan conscientes de los riesgos y beneficios como el sector privado. Ello dará lugar a interesantes debates jurisdicción por jurisdicción.

[3] https://www.oecd.org/corporate/principles-corporate-governance/. El texto está disponible en 13 idiomas.

[2] The use of artificial intelligence and machine learning by market intermediaries and asset managers, informe de consulta del Consejo de IOSCO, junio de 2020, disponible en: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] Board Priorities - IOSCO work program for 2019, 25 de marzo de 2019, disponible en: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf