الذكاء الاصطناعي وتعلّم الآلة في الخدمات المالية: ماذا تقول الجهات التنظيمية؟

في عام 2022، لم يكن بوسع أحد في محيط التحالف العالمي، ولا ينبغي له، أن يحاول الإفلات من الآثار التحويلية لتقنيات الذكاء الاصطناعي وتعلّم الآلة. وكما هو الحال مع أي تغيير بهذا الحجم، ما المنافع والأضرار المحتملة؟ هذه أسئلة تُطرح في وقت يزداد فيه رسوخ هاتين المجموعتين التوأمين من التقنيات. وللشروع في الإجابة عنها، ثمة نقطة جوهرية مفادها أن القانون والتنظيم يوفران المبادئ التوجيهية التي تؤطر هذا القطاع. وقبل بضعة أشهر، نشرت المنظمة الدولية لهيئات الأوراق المالية (IOSCO) تقريرها النهائي بشأن تساؤلات الجهات التنظيمية حول الذكاء الاصطناعي وتعلّم الآلة.

ما الذي تساءلت عنه الجهات التنظيمية؟

يتزايد استخدام الذكاء الاصطناعي وتعلّم الآلة في الخدمات المالية، مدفوعًا بازدياد توافر البيانات والقدرة الحاسوبية. وقد أخذ استخدام الوسطاء في الأسواق ومديري الأصول للذكاء الاصطناعي وتعلّم الآلة يغيّر نماذج أعمال الشركات. فعلى سبيل المثال، تستخدم شركات كثيرة الذكاء الاصطناعي وتعلّم الآلة لدعم خدماتها الاستشارية وخدمات الدعم، وإدارة المخاطر، وتحديد هوية العملاء ومراقبتهم، واختيار خوارزميات التداول، وإدارة المحافظ. وفي خضم ذلك، يُرجَّح أن تكون ملفات المخاطر الخاصة بها قد تغيرت. كما تتغير بيئة المخاطر المحيطة بها في مجملها: فهل تُقيَّم تلك التغيرات الخارجية في القطاع تقييمًا ملائمًا؟

وقد يحقق استخدام هذه التقنيات كفاءات ومنافع كبيرة للشركات والمستثمرين، بما في ذلك تسريع التنفيذ وخفض تكلفة خدمات الاستثمار. وفي الوقت نفسه، قد يؤدي استخدامها أيضًا إلى نشوء مخاطر معينة أو تضخيمها، مما قد يؤثر في كفاءة الأسواق المالية ويُلحق الضرر بالعملاء.

وقد حددت IOSCO استخدام الوسطاء في الأسواق ومديري الأصول للذكاء الاصطناعي وتعلّم الآلة بوصفه أولوية رئيسية.[1] وفي أبريل 2019، كلّف مجلس IOSCO اللجنة الدائمة 3 للمنظمة المعنية بـ"تنظيم الوسطاء في الأسواق" واللجنة الدائمة 5 المعنية بـ"إدارة الاستثمار" بدراسة أفضل الممارسات الحالية والمحتملة للإشراف العام على تطبيق هذه التقنيات وآثارها. وطُلب من اللجنتين اقتراح توجيهات يمكن للولايات القضائية الأعضاء النظر في اعتمادها لمعالجة مخاطر السلوك المهني.

المخاطر المحتملة المحددة في التقرير الاستشاري

تحظى إعلانات IOSCO بمتابعة موظفي الامتثال في الخدمات المالية حول العالم. وقد أجرت IOSCO استطلاعات وعقدت موائد مستديرة للنقاش مع الوسطاء في الأسواق، وتواصلت مع مديري الأصول لتحديد كيفية استخدام الذكاء الاصطناعي وتعلّم الآلة، وتساءلت عن المخاطر المرتبطة بذلك.

وقد أبرز التقرير الاستشاري الصادر في يونيو 2020[2] المجالات التالية التي قد تنشأ فيها مخاطر وأضرار محتملة فيما يتعلق بتطوير هذه التقنيات واختبارها ونشرها:

• الحوكمة والرقابة؛
• تطوير الخوارزميات واختبارها ومراقبتها المستمرة؛
• جودة البيانات والتحيز؛
• الشفافية وقابلية التفسير؛
• الإسناد إلى جهات خارجية؛
• الاعتبارات الأخلاقية.

توجيهات IOSCO

استنادًا إلى الردود التي تلقاها فريق الجهات التنظيمية العالمية الذي شُكّل لهذه المشاورة، يقدم التقرير النهائي توجيهات لمساعدة أعضاء IOSCO في الإشراف على الوسطاء في الأسواق ومديري الأصول الذين يستخدمون الذكاء الاصطناعي وتعلّم الآلة.

وتتألف التوجيهات من ستة تدابير تعكس معايير السلوك المتوقعة من الأطراف المعنية في القطاع الخاص. ومرة أخرى، فإن كلمة "توجيهات" بالغة الأهمية، لأن كل ولاية قضائية يجب أن تكيّف المبدأ العالمي مع ظروف سوقها وظروفها القانونية والتنظيمية. وينبغي لأعضاء IOSCO والشركات أيضًا مراعاة تناسب أي استجابة عند تنفيذ التدابير.

ومن المرجح أن يتزايد استخدام الذكاء الاصطناعي وتعلّم الآلة مع تقدم التقنية، ومن المعقول أن يحتاج الإطار التنظيمي إلى التطور بالتوازي لمعالجة المخاطر الناشئة المرتبطة بذلك. وقد نبّهت IOSCO إلى أن تقرير 2022، بما فيه من تعريفات وتوجيهات، قد يخضع للمراجعة والتحديث مستقبلًا. وتُشجَّع السلطات الوطنية، عند تكييفها للمبادئ التوجيهية العالمية، على المضي أبعد من ذلك حسب الحاجة.

التدبير 1: ينبغي للجهات التنظيمية أن تنظر في إلزام الشركات بتعيين إدارة عليا مسؤولة عن الإشراف على تطوير الذكاء الاصطناعي وتعلّم الآلة واختبارهما ونشرهما ومراقبتهما وضوابطهما. ويشمل ذلك إطارًا موثقًا للحوكمة الداخلية بخطوط مساءلة واضحة. وينبغي أن يُكلَّف فرد أو مجموعة على مستوى مناسب من الأقدمية، ممن يمتلكون المهارات والمعارف ذات الصلة، باعتماد النشر الأولي لهذه التقنيات والتحديثات الجوهرية عليها.

التدبير 2: ينبغي للجهات التنظيمية أن تُلزم الشركات باختبار الخوارزميات التي تستخدمها ومراقبتها للتحقق من نتائج تقنيات الذكاء الاصطناعي وتعلّم الآلة المطبقة بصفة مستمرة. وينبغي إجراء الاختبار قبل النشر في بيئة منفصلة عن بيئة التشغيل الفعلية، لضمان أن الذكاء الاصطناعي وتعلّم الآلة:

(أ) يعملان على النحو المتوقع في ظروف السوق الضاغطة وغير الضاغطة؛

(ب) يعملان بطريقة تمتثل للالتزامات التنظيمية.

التدبير 3: ينبغي للجهات التنظيمية أن تُلزم الشركات بامتلاك المهارات والخبرة والتجربة الكافية لتطوير الذكاء الاصطناعي وتعلّم الآلة اللذين تعتمدهما الشركة واختبارهما ونشرهما ومراقبتهما والإشراف على الضوابط المفروضة عليهما. وينبغي أن تكون وظائف الامتثال وإدارة المخاطر قادرة على فهم الخوارزميات المنتَجة ومساءلتها، وعلى إجراء العناية الواجبة بشأن أي مزود خارجي، بما في ذلك مستوى المعرفة والخبرة والتجربة الذي أثبته المزود تحديدًا في سياق الخدمات المالية.

التدبير 4: ينبغي للجهات التنظيمية أن تُلزم الشركات بفهم مدى اعتمادها على مزودي تقنية المعلومات الخارجيين بجميع أنواعهم، وبإدارة هذه العلاقات بفاعلية. ويشمل ذلك مراقبة أدائهم وممارسة الرقابة عليهم. ولضمان المساءلة الكافية، ينبغي أن يكون لدى الشركات اتفاق واضح لمستوى الخدمة وعقد ساري المفعول يوضحان نطاق الوظائف المسندة إلى جهات خارجية ومسؤوليتها ومسؤولية مزودها. وينبغي النص على مؤشرات أداء واضحة، وعلى الحقوق وسبل الانتصاف في حال ضعف الأداء.

التدبير 5: ينبغي للجهات التنظيمية أن تنظر في مستوى الإفصاح المطلوب من الشركات بشأن استخدامها للذكاء الاصطناعي وتعلّم الآلة، بما في ذلك:

• إلزام الشركات بالإفصاح للعملاء عن معلومات ذات دلالة حول الكيفية التي يؤثر بها استخدامها لهذه التقنيات في النتائج التي يحصل عليها العملاء.
• النظر في نوع المعلومات التي قد تطلبها من الشركات التي تستخدم الذكاء الاصطناعي وتعلّم الآلة لضمان قدرتها على ممارسة رقابة ملائمة وفعالة على تلك الشركات.

التدبير 6: ينبغي للجهات التنظيمية أن تنظر في إلزام الشركات بوضع ضوابط ملائمة لضمان أن تكون البيانات التي يقوم عليها أداء الذكاء الاصطناعي وتعلّم الآلة ذات جودة كافية لمنع التحيزات، وواسعة بما يكفي لتطبيق هذه الأدوات على أسس سليمة.

وبالإضافة إلى تدابير IOSCO هذه، تدعو مبادئ حوكمة الشركات الصادرة عن مجموعة العشرين/منظمة التعاون الاقتصادي والتنمية[3] مجالس الإدارة إلى الإشراف على إدارة المخاطر المؤسسية، وإلى فهم تلك المقترحات ومراجعتها واعتمادها، وكذلك مراقبتها الداخلية المستمرة.

استنتاجات للتحالف العالمي

تأتي الهيئات الإشرافية الأعضاء في IOSCO من مختلف أنحاء العالم. والخدمات المالية التي تشرف عليها متباينة تباين المراكز الأعضاء في التحالف العالمي. ولهذا السبب، تعمل IOSCO على مستوى المبادئ وأفضل الممارسات والتوصيات؛ إذ لا يمكنها صياغة قاعدة تُنقل حرفيًا إلى القانون ثم تتوقع تطبيقًا مماثلًا من ولاية قضائية إلى أخرى.

وثمة جانب آخر لهذه التحولات: ففيما يخص عمل السلطات نفسها، يجب أن تطبّق التقنية التنظيمية (RegTech) تطبيقًا فعالًا. ويجب أن تكون الهيئات الإشرافية التي تستخدم تقنيات مماثلة للذكاء الاصطناعي وتعلّم الآلة في رقابتها مدركة للمخاطر والمنافع بالقدر نفسه الذي يدركها به القطاع الخاص. وسيفضي ذلك إلى نقاشات مثيرة للاهتمام في كل ولاية قضائية على حدة.

[3] https://www.oecd.org/corporate/principles-corporate-governance/. النص متاح بثلاث عشرة لغة.

[2] استخدام الوسطاء في الأسواق ومديري الأصول للذكاء الاصطناعي وتعلّم الآلة، التقرير الاستشاري لمجلس IOSCO، يونيو 2020، متاح على: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD658.pdf

[1] أولويات المجلس - برنامج عمل IOSCO لعام 2019، 25 مارس 2019، متاح على: https://www.iosco.org/library/pubdocs/pdf/IOSCOPD625.pdf