En 2022, personne dans l'environnement de la World Alliance ne pourrait ni ne devrait tenter d'échapper aux effets transformateurs des technologies d'intelligence artificielle (IA) et d'apprentissage automatique (ML). Comme pour tout changement de cette ampleur, quels en sont les avantages et les préjudices potentiels ? Ces questions se posent à mesure que ces deux familles de technologies s'enracinent toujours plus profondément. Pour commencer à y répondre, un point fondamental est que la législation et la réglementation fournissent les lignes directrices qui encadrent ce secteur. Il y a quelques mois, l'Organisation internationale des commissions de valeurs (IOSCO) a publié son rapport final sur les questions des régulateurs concernant l'IA et le ML.
Quelles questions les régulateurs ont-ils posées ?
L'intelligence artificielle et l'apprentissage automatique sont de plus en plus utilisés dans les services financiers, grâce à la disponibilité accrue des données et de la puissance de calcul. L'utilisation de l'IA et du ML par les intermédiaires de marché et les gestionnaires d'actifs modifie les modèles économiques des entreprises. Par exemple, de nombreuses entreprises utilisent l'IA et le ML pour soutenir leurs services de conseil et d'assistance, la gestion des risques, l'identification et le suivi des clients, la sélection d'algorithmes de négociation et la gestion de portefeuille. Ce faisant, leurs propres profils de risque ont probablement évolué. L'environnement de risque qui les entoure évolue lui aussi dans son ensemble : ces changements externes au secteur sont-ils correctement évalués ?
L'utilisation de ces technologies peut générer d'importants gains d'efficacité et avantages pour les entreprises et les investisseurs, notamment une exécution plus rapide et une réduction du coût des services d'investissement. Dans le même temps, leur utilisation peut aussi créer ou amplifier certains risques, susceptibles d'affecter l'efficience des marchés financiers et de porter préjudice aux clients.
L'IOSCO a fait de l'utilisation de l'IA et du ML par les intermédiaires de marché et les gestionnaires d'actifs une priorité clé.[1] En avril 2019, le conseil d'administration de l'IOSCO a mandaté le Comité permanent 3 de l'organisation, chargé de la « réglementation des intermédiaires de marché », et le Comité permanent 5, chargé de la « gestion des investissements », pour examiner les meilleures pratiques actuelles et potentielles en matière de supervision publique de la mise en œuvre et des effets de ces technologies. Les comités ont été invités à proposer des orientations que les juridictions membres pourraient envisager d'adopter pour faire face aux risques liés à la conduite des affaires.
Risques potentiels identifiés dans le rapport de consultation
Les annonces de l'IOSCO sont suivies dans le monde entier par les équipes de conformité des services financiers. L'IOSCO a mené une enquête et organisé des tables rondes avec des intermédiaires de marché, et a consulté des gestionnaires d'actifs afin de déterminer comment l'IA et le ML sont utilisés. Elle s'est interrogée sur les risques qui pourraient y être associés.
Les domaines suivants ont été mis en évidence dans le rapport de consultation publié en juin 2020,[2] comme ceux dans lesquels des risques et préjudices potentiels peuvent survenir en lien avec le développement, les tests et le déploiement de ces technologies :
- Gouvernance et surveillance ;
- Développement, test et suivi continu des algorithmes ;
- Qualité des données et biais ;
- Transparence et explicabilité ;
- Externalisation ; et
- Questions éthiques.
Orientations de l'IOSCO
Sur la base des réponses reçues par l'équipe de régulateurs internationaux constituée pour cette consultation, le rapport final fournit des orientations destinées à aider les membres de l'IOSCO à superviser les intermédiaires de marché et les gestionnaires d'actifs qui utilisent l'IA et le ML.
Ces orientations se composent de six mesures qui reflètent les normes de conduite attendues des acteurs privés concernés. Là encore, le terme « orientations » est particulièrement important, car chaque juridiction doit adapter le principe mondial à sa situation de marché, juridique et réglementaire. Les membres de l'IOSCO et les entreprises devraient également tenir compte de la proportionnalité de toute réponse lors de la mise en œuvre des mesures.
L'utilisation de l'IA et du ML devrait s'intensifier à mesure que la technologie progresse, et il est plausible que le cadre réglementaire doive évoluer parallèlement pour faire face aux risques émergents qui y sont associés. L'IOSCO a précisé que le rapport de 2022, y compris ses définitions et ses orientations, pourrait être revu et mis à jour à l'avenir. Dans leur adaptation des lignes directrices mondiales, les autorités nationales sont encouragées à aller plus loin si nécessaire.
Mesure 1 : Les régulateurs devraient envisager d'exiger des entreprises qu'elles désignent des membres de la direction chargés de superviser le développement, les tests, le déploiement, le suivi et les contrôles de l'IA et du ML. Cela comprend un cadre de gouvernance interne documenté, assorti de lignes de responsabilité claires. Une personne ou un groupe d'un niveau hiérarchique suffisant, disposant des compétences et des connaissances pertinentes, devrait être chargé de valider le déploiement initial et les mises à jour substantielles de ces technologies.
Mesure 2 : Les régulateurs devraient exiger des entreprises qu'elles testent et surveillent les algorithmes qu'elles utilisent afin de valider en continu les résultats des techniques d'IA et de ML déployées. Les tests devraient être menés, avant le déploiement, dans un environnement séparé de l'environnement de production, afin de garantir que l'IA et le ML :
(a) se comportent comme prévu dans des conditions de marché normales comme de tensions ; et
(b) fonctionnent dans le respect des obligations réglementaires.
Mesure 3 : Les régulateurs devraient exiger des entreprises qu'elles disposent des compétences, de l'expertise et de l'expérience adéquates pour développer, tester, déployer, surveiller et superviser les contrôles relatifs à l'IA et au ML qu'elles mettent en place. Les fonctions de conformité et de gestion des risques devraient être en mesure de comprendre et de remettre en question les algorithmes produits et d'exercer une diligence raisonnable à l'égard de tout prestataire tiers, y compris quant au niveau de connaissances, d'expertise et d'expérience dont ce prestataire a fait preuve spécifiquement dans le contexte des services financiers.
Mesure 4 : Les régulateurs devraient exiger des entreprises qu'elles comprennent leur dépendance à l'égard des prestataires informatiques tiers de toute nature et qu'elles gèrent activement ces relations. Cela inclurait le suivi de leurs performances et l'exercice d'une surveillance. Afin de garantir une responsabilité adéquate, les entreprises devraient disposer d'un accord de niveau de service et d'un contrat clairs, précisant le périmètre et la responsabilité des fonctions externalisées et de leur prestataire. Des indicateurs de performance clairs devraient être stipulés, ainsi que les droits et recours en cas de performances insuffisantes.
Mesure 5 : Les régulateurs devraient déterminer le niveau d'information sur l'utilisation de l'IA et du ML exigé des entreprises, notamment :
- en exigeant des entreprises qu'elles communiquent à leurs clients des informations pertinentes sur la manière dont leur utilisation de ces technologies affecte les résultats obtenus pour eux ;
- en examinant le type d'informations qu'ils pourraient exiger des entreprises utilisant l'IA et le ML afin de pouvoir exercer une surveillance appropriée et efficace de ces entreprises.
Mesure 6 : Les régulateurs devraient envisager d'exiger des entreprises qu'elles mettent en place des contrôles appropriés pour garantir que les données sur lesquelles reposent les performances de l'IA et du ML sont d'une qualité suffisante pour prévenir les biais et suffisamment larges pour une application bien fondée de ces outils.
Outre ces mesures de l'IOSCO, les Principes de gouvernement d'entreprise du G20/de l'OCDE[3] invitent les conseils d'administration à superviser la gestion des risques de l'entreprise, ainsi qu'à comprendre, examiner et valider ces propositions et leur suivi interne continu.
Conclusions pour la World Alliance
Les autorités de supervision membres de l'IOSCO viennent du monde entier. Les services financiers qu'elles supervisent sont aussi hétérogènes que les places financières membres de la World Alliance. C'est pourquoi l'IOSCO travaille au niveau des principes, des meilleures pratiques et des recommandations ; elle ne peut pas rédiger une règle destinée à être transposée à l'identique dans la loi et s'attendre à une application similaire d'une juridiction à l'autre.
Ces évolutions transformatrices ont une autre facette : pour leurs propres travaux, les autorités doivent mettre en œuvre efficacement la RegTech. Les autorités de supervision qui déploient des technologies d'IA et de ML comparables pour leur surveillance doivent être tout aussi conscientes des risques et des avantages que le secteur privé. Cela donnera lieu à des échanges intéressants, juridiction par juridiction.
[3] https://www.oecd.org/corporate/principles-corporate-governance/. Le texte est disponible en 13 langues.
[2] The use of artificial intelligence and machine learning by market intermediaries and asset managers, rapport de consultation du conseil d'administration de l'IOSCO, juin 2020, disponible à l'adresse : https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf
[1] Board Priorities - IOSCO work program for 2019, 25 mars 2019, disponible à l'adresse : https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf
Les articles publiés ici reflètent l'opinion de leurs auteurs respectifs et pas nécessairement celle de la World Alliance.