金融服务中的人工智能与机器学习：监管机构怎么说？

2022年，在世界国际金融中心联盟的环境中，没有人能够、也没有人应当试图回避人工智能（AI）和机器学习（ML）技术带来的变革性影响。与任何如此规模的变革一样，其潜在的益处和危害是什么？随着这两类技术日益深入地融入其中，这些问题被提了出来。要开始回答这些问题，一个基本点在于：法律和监管为这一行业提供了指引框架。几个月前，国际证监会组织（IOSCO）发布了关于监管机构对人工智能和机器学习所提问题的最终报告。

监管机构提出了哪些问题？

在数据可得性和计算能力不断提升的推动下，人工智能和机器学习在金融服务中的应用日益广泛。市场中介机构和资产管理公司对人工智能和机器学习的使用正在改变企业的商业模式。例如，许多企业一直在利用人工智能和机器学习支持其咨询和支持服务、风险管理、客户识别与监控、交易算法选择以及投资组合管理。在此过程中，它们自身的风险状况很可能已经发生了改变。它们周围的整体风险环境也在变化：这些外部行业变化是否得到了恰当评估？

使用这些技术可为企业和投资者带来显著的效率提升和收益，包括更快的执行速度和更低的投资服务成本。与此同时，其使用也可能产生或放大某些风险，这些风险可能影响金融市场的效率并损害客户利益。

国际证监会组织已将市场中介机构和资产管理公司使用人工智能和机器学习列为一项关键优先事项。[1]2019年4月，国际证监会组织理事会授权该组织负责“市场中介机构监管”的第三常设委员会和负责“投资管理”的第五常设委员会，研究针对这些技术的实施及其影响开展公共监管的现有及潜在最佳实践。两个委员会被要求提出指引，供成员司法管辖区考虑采纳，以应对业务行为风险。

征求意见报告中识别的潜在风险

全球各地的金融服务合规人员都关注着国际证监会组织发布的公告。国际证监会组织对市场中介机构开展了调查并举行了圆桌讨论，同时与资产管理公司进行了沟通，以了解人工智能和机器学习的使用情况，并探讨了可能存在的相关风险。

2020年6月发布的征求意见报告[2]重点指出了以下领域，在这些技术的开发、测试和部署过程中，这些领域可能产生潜在风险和危害：

• 治理与监督；
• 算法开发、测试和持续监控；
• 数据质量与偏差；
• 透明度与可解释性；
• 外包；以及
• 伦理问题。

国际证监会组织的指引

根据为此次征求意见而组建的全球监管机构团队所收到的反馈，最终报告提供了相关指引，以协助国际证监会组织成员监管使用人工智能和机器学习的市场中介机构和资产管理公司。

该指引包括六项措施，反映了对相关私营部门各方的预期行为标准。需要再次强调的是，“指引”一词尤为重要，因为每个司法管辖区都必须根据其市场、法律和监管状况来调整适用这一全球原则。国际证监会组织成员和相关企业在实施各项措施时，也应考虑应对措施的相称性。

随着技术进步，人工智能和机器学习的使用可能会增加，监管框架也很可能需要同步演进，以应对相关的新兴风险。国际证监会组织提醒，2022年报告（包括其中的定义和指引）今后可能会被审查和更新。在调整适用全球指引时，鼓励各国当局根据需要采取进一步措施。

措施1：监管机构应考虑要求企业指定高级管理人员，负责监督人工智能和机器学习的开发、测试、部署、监控和控制。这包括建立一个书面的内部治理框架，明确问责关系。应由具备相关技能和知识、级别适当的高级人员或团队，负责批准这些技术的首次部署和重大更新。

措施2：监管机构应要求企业对其使用的算法进行测试和监控，以持续验证所部署的人工智能和机器学习技术的结果。测试应在部署前于与实际运行环境相隔离的环境中进行，以确保人工智能和机器学习：

（a）在承压和非承压的市场条件下均能按预期运行；以及

（b）以符合监管义务的方式运行。

措施3：监管机构应要求企业具备足够的技能、专业知识和经验，以开发、测试、部署、监控和监督其所建立的人工智能和机器学习的控制措施。合规和风险管理部门应能够理解并质询所生成的算法，并对任何第三方供应商开展尽职调查，包括该供应商在金融服务领域具体展现出的知识、专业能力和经验水平。

措施4：监管机构应要求企业了解其对各类第三方信息技术供应商的依赖程度，并积极管理这些关系，包括监测其表现并进行监督。为确保充分问责，企业应签订明确的服务水平协议和合同，阐明外包职能及其供应商的范围和责任。应规定明确的绩效指标，以及绩效不佳时的权利和补救措施。

措施5：监管机构应考虑要求企业就人工智能和机器学习的使用作出何种程度的披露，包括：

• 要求企业向客户披露有意义的信息，说明其对这些技术的使用如何影响客户结果；
• 考虑需要向使用人工智能和机器学习的企业索取何种类型的信息，以确保能够对这些企业实施适当而有效的监督。

措施6：监管机构应考虑要求企业建立适当的控制措施，确保支撑人工智能和机器学习运行的数据质量足以防止偏差，且范围足够广泛，以便有充分依据地应用这些工具。

除国际证监会组织的上述措施外，二十国集团/经济合作与发展组织《公司治理原则》[3]也要求董事会监督企业风险管理，理解、审查并批准相关提议，以及对其进行持续的内部监控。

对世界国际金融中心联盟的启示

国际证监会组织的成员监管机构来自世界各地。它们所监管的金融服务与联盟各成员金融中心一样千差万别。正因如此，国际证监会组织在原则、最佳实践和建议的层面开展工作；它无法制定一条规则，供各司法管辖区原样转化为法律，并期望各地以类似方式执行。

这些变革性事件还有另一面：就监管机构自身的工作而言，当局也必须有效运用监管科技。在监管中部署类似人工智能和机器学习技术的监管机构，必须与私营部门一样清楚地认识到其中的风险和益处。这将在各个司法管辖区引发有意思的讨论。

[3] https://www.oecd.org/corporate/principles-corporate-governance/。该文本有13种语言版本。

[2] 《市场中介机构和资产管理公司对人工智能和机器学习的使用》（The use of artificial intelligence and machine learning by market intermediaries and asset managers），国际证监会组织理事会征求意见报告，2020年6月，网址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] 《理事会优先事项——国际证监会组织2019年工作计划》（Board Priorities - IOSCO work program for 2019），2019年3月25日，网址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf