金融服務中的人工智慧與機器學習：監管機構怎麼說？

2022年，在世界國際金融中心聯盟的環境中，沒有人能夠、也沒有人應當試圖迴避人工智慧（AI）和機器學習（ML）技術帶來的變革性影響。與任何如此規模的變革一樣，其潛在的益處和危害是什麼？隨著這兩類技術日益深入地融入其中，這些問題被提了出來。要開始回答這些問題，一個基本點在於：法律和監管為這一行業提供了指引框架。幾個月前，國際證監會組織（IOSCO）發布了關於監管機構對人工智慧和機器學習所提問題的最終報告。

監管機構提出了哪些問題？

在數據可得性和運算能力不斷提升的推動下，人工智慧和機器學習在金融服務中的應用日益廣泛。市場中介機構和資產管理公司對人工智慧和機器學習的使用正在改變企業的商業模式。例如，許多企業一直在利用人工智慧和機器學習支持其諮詢和支持服務、風險管理、客戶識別與監控、交易演算法選擇以及投資組合管理。在此過程中，它們自身的風險狀況很可能已經發生了改變。它們周圍的整體風險環境也在變化：這些外部行業變化是否得到了恰當評估？

使用這些技術可為企業和投資者帶來顯著的效率提升和收益，包括更快的執行速度和更低的投資服務成本。與此同時，其使用也可能產生或放大某些風險，這些風險可能影響金融市場的效率並損害客戶利益。

國際證監會組織已將市場中介機構和資產管理公司使用人工智慧和機器學習列為一項關鍵優先事項。[1]2019年4月，國際證監會組織理事會授權該組織負責「市場中介機構監管」的第三常設委員會和負責「投資管理」的第五常設委員會，研究針對這些技術的實施及其影響開展公共監管的現有及潛在最佳實踐。兩個委員會被要求提出指引，供成員司法管轄區考慮採納，以應對業務行為風險。

徵求意見報告中識別的潛在風險

全球各地的金融服務合規人員都關注著國際證監會組織發布的公告。國際證監會組織對市場中介機構開展了調查並舉行了圓桌討論，同時與資產管理公司進行了溝通，以了解人工智慧和機器學習的使用情況，並探討了可能存在的相關風險。

2020年6月發布的徵求意見報告[2]重點指出了以下領域，在這些技術的開發、測試和部署過程中，這些領域可能產生潛在風險和危害：

• 治理與監督；
• 演算法開發、測試和持續監控；
• 資料品質與偏差；
• 透明度與可解釋性；
• 外包；以及
• 倫理問題。

國際證監會組織的指引

根據為此次徵求意見而組建的全球監管機構團隊所收到的回饋，最終報告提供了相關指引，以協助國際證監會組織成員監管使用人工智慧和機器學習的市場中介機構和資產管理公司。

該指引包括六項措施，反映了對相關私營部門各方的預期行為標準。需要再次強調的是，「指引」一詞尤為重要，因為每個司法管轄區都必須根據其市場、法律和監管狀況來調整適用這一全球原則。國際證監會組織成員和相關企業在實施各項措施時，也應考慮應對措施的相稱性。

隨著技術進步，人工智慧和機器學習的使用可能會增加，監管框架也很可能需要同步演進，以應對相關的新興風險。國際證監會組織提醒，2022年報告（包括其中的定義和指引）今後可能會被審查和更新。在調整適用全球指引時，鼓勵各國當局根據需要採取進一步措施。

措施1：監管機構應考慮要求企業指定高階管理人員，負責監督人工智慧和機器學習的開發、測試、部署、監控和控制。這包括建立一個書面的內部治理框架，明確問責關係。應由具備相關技能和知識、級別適當的高階人員或團隊，負責批准這些技術的首次部署和重大更新。

措施2：監管機構應要求企業對其使用的演算法進行測試和監控，以持續驗證所部署的人工智慧和機器學習技術的結果。測試應在部署前於與實際運行環境相隔離的環境中進行，以確保人工智慧和機器學習：

（a）在承壓和非承壓的市場條件下均能按預期運行；以及

（b）以符合監管義務的方式運行。

措施3：監管機構應要求企業具備足夠的技能、專業知識和經驗，以開發、測試、部署、監控和監督其所建立的人工智慧和機器學習的控制措施。合規和風險管理部門應能夠理解並質詢所生成的演算法，並對任何第三方供應商開展盡職調查，包括該供應商在金融服務領域具體展現出的知識、專業能力和經驗水準。

措施4：監管機構應要求企業了解其對各類第三方資訊科技供應商的依賴程度，並積極管理這些關係，包括監測其表現並進行監督。為確保充分問責，企業應簽訂明確的服務水準協議和合約，闡明外包職能及其供應商的範圍和責任。應規定明確的績效指標，以及績效不佳時的權利和補救措施。

措施5：監管機構應考慮要求企業就人工智慧和機器學習的使用作出何種程度的披露，包括：

• 要求企業向客戶披露有意義的資訊，說明其對這些技術的使用如何影響客戶結果；
• 考慮需要向使用人工智慧和機器學習的企業索取何種類型的資訊，以確保能夠對這些企業實施適當而有效的監督。

措施6：監管機構應考慮要求企業建立適當的控制措施，確保支撐人工智慧和機器學習運行的資料品質足以防止偏差，且範圍足夠廣泛，以便有充分依據地應用這些工具。

除國際證監會組織的上述措施外，二十國集團/經濟合作與發展組織《公司治理原則》[3]也要求董事會監督企業風險管理，理解、審查並批准相關提議，以及對其進行持續的內部監控。

對世界國際金融中心聯盟的啟示

國際證監會組織的成員監管機構來自世界各地。它們所監管的金融服務與聯盟各會員金融中心一樣千差萬別。正因如此，國際證監會組織在原則、最佳實踐和建議的層面開展工作；它無法制定一條規則，供各司法管轄區原樣轉化為法律，並期望各地以類似方式執行。

這些變革性事件還有另一面：就監管機構自身的工作而言，當局也必須有效運用監管科技。在監管中部署類似人工智慧和機器學習技術的監管機構，必須與私營部門一樣清楚地認識到其中的風險和益處。這將在各個司法管轄區引發有意思的討論。

[3] https://www.oecd.org/corporate/principles-corporate-governance/。該文本有13種語言版本。

[2] 《市場中介機構和資產管理公司對人工智慧和機器學習的使用》（The use of artificial intelligence and machine learning by market intermediaries and asset managers），國際證監會組織理事會徵求意見報告，2020年6月，網址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] 《理事會優先事項——國際證監會組織2019年工作計畫》（Board Priorities - IOSCO work program for 2019），2019年3月25日，網址：https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf