حذر المنظم المالي الأسترالي المؤسسات المالية من ضعف إدارة وضمانات استخدام الذكاء الاصطناعي، وذلك في ظل توسع البنوك وأمناء التقاعد في الاعتماد على تقنيات الذكاء الاصطناعي داخل العمليات الداخلية وخدمة العملاء. وأجرت هيئة الرقابة الأسترالية (APRA) مراجعة استهدفت عدداً من الكيانات الكبيرة المنظمة في نهاية عام 2025، بهدف تقييم مدى تبني الذكاء الاصطناعي والمخاطر المرتبطة به من الناحية الرقابية. وكشفت النتائج أن جميع المؤسسات التي شملتها الدراسة تستخدم الذكاء الاصطناعي، إلا أن مستوى نضج إدارة المخاطر والمرونة التشغيلية يختلف من مؤسسة لأخرى.
### اهتمام قوي ولكن مخاطر غير كافية
أظهرت الهيئة أن مجالس الإدارة أبدت اهتمامًا كبيرًا بدمج الذكاء الاصطناعي لتحسين الإنتاجية وتعزيز تجربة العملاء. ومع ذلك، لاحظت أن العديد منها لا تزال في مراحل بناء إدارة لمخاطر الذكاء الاصطناعي بشكل فعال. كما أعربت عن قلقها من الاعتماد المفرط على عروض وتلخيصات من قبل الموردين، وعدم التدقيق الكافي في المخاطر المحتملة، مثل سلوك النماذج غير المتوقع وتأثير أخطاء الذكاء الاصطناعي على العمليات الحيوية.
### ضرورة فهم أعمق للذكاء الاصطناعي
دعت الهيئة إلى ضرورة تطوير مجالس الإدارة لفهم أعمق للذكاء الاصطناعي، بهدف وضع استراتيجيات واضحة وأطر لمراقبة وتوجيه استخدامه بشكل يتماشى مع مستوى تحمل المؤسسة للمخاطر. وأكدت على أن استراتيجيات الذكاء الاصطناعي يجب أن تتوافق مع سياسات المخاطر، وأن تشمل آليات للرصد وإجراءات محددة للتعامل مع الأخطاء أو الحوادث.
### تطبيقات الذكاء الاصطناعي واستخداماته
ذكر التقرير أن بعض المؤسسات تجرب أو تعتمد على الذكاء الاصطناعي في مجالات مثل هندسة البرمجيات، تصنيف المطالبات، ومعالجة طلبات القروض. كما يتم استخدامه في مكافحة الاحتيال والتصدي للعمليات الاحتيالية، وتحسين تفاعل العملاء. ومع ذلك، فإن بعض المؤسسات تتعامل مع مخاطر الذكاء الاصطناعي بنفس طريقة التعامل مع تقنيات أخرى، وهو نهج لا يأخذ في الاعتبار سلوك النماذج وتحاملها.
### فجوات في مراقبة أداء النماذج وإدارة التغييرات
أشارت الهيئة إلى وجود فجوات في مراقبة سلوك النماذج، وإدارة التغييرات، وإيقاف تشغيل النماذج القديمة. ودعت إلى ضرورة وجود قواعد واضحة لجرد أدوات الذكاء الاصطناعي وتحديد المسؤولين عن إدارة هذه الأدوات. كما أكدت على أهمية إشراك العنصر البشري في القرارات عالية المخاطر لضمان الأمان والامتثال.
### التحديات في الأمن السيبراني
تطرق التقرير إلى أن اعتماد الذكاء الاصطناعي يُغير بيئة التهديدات، مضيفًا طرقًا جديدة للهجمات مثل حقن الأوامر والتكامل غير الآمن. وأشار إلى أن ممارسات إدارة الهوية والوصول لم تتكيف بعد مع العناصر غير البشرية مثل وكلاء الذكاء الاصطناعي، مما يزيد من المخاطر الأمنية.
كما حثت الهيئة على فرض ضوابط على سير العمل الذاتي والآلي، بما يشمل إدارة الوصول المميز، والتكوين، والتحديثات الأمنية. وأكدت على ضرورة اختبار أمان الشفرات التي تنتجها أدوات الذكاء الاصطناعي.
### الاعتماد المفرط على مزود واحد
لاحظت الهيئة أن بعض المؤسسات أصبحت تعتمد بشكل كبير على مزود واحد لتوفير العديد من أدوات الذكاء الاصطناعي، وأن قلة منها فقط أعدت خطط خروج أو استبدال لمورديها. وأشارت إلى أن الذكاء الاصطناعي قد يكون موجودًا أيضًا في عمليات التبعيات الخارجية التي قد لا تكون المؤسسات على علم بها.
### معايير الهوية والصلاحية
وفي سياق آخر، تعمل مجموعة “FIDO Alliance” على تطوير معايير جديدة للتحقق من الهوية والصلاحية، خاصة فيما يتعلق بالوكلاء الموكَلين والأفعال التي يتم تنفيذها نيابة عن المستخدمين. وأوضحت أن النماذج الحالية تعتمد غالبًا على أنظمة مصادقة موجهة للبشر، وليست مهيأة للتحقق من الأفعال التي ينفذها البرمجيات أو الوكلاء غير البشريين، مما يتطلب اعتماد طرق جديدة للتحقق من هوية وموافقة هذه الأفعال.
### حلول وتقنيات جديدة
عرضت شركات مثل جوجل وماستركارد حلولًا مثل بروتوكولات الدفع بواسطة الوكيل وإطارات عمل الإثباتات الموثوقة، بينما نشرت منظمة الأمن السيبراني غير الربحية “CIS” أدلة إرشادية تتعلق بأمان نماذج اللغة الكبيرة، والوكلاء الذكيين، وبيئات بروتوكول سياق النماذج. وتتناول هذه الأدلة قضايا مثل إدارة البيانات الحساسة، والوصول الآمن، والتفاعل الشبكي.
### خلاصة
تحذر الهيئة الأسترالية من أن الاعتماد المفرط على الذكاء الاصطناعي يتطلب إجراءات تنظيمية ورقابية صارمة لضمان الاستخدام الآمن والمسؤول. وتؤكد على أهمية تطوير فهم عميق للمخاطر والتحديات التقنية، خاصة في مجالات الأمن السيبراني وإدارة الهوية، لضمان أن يظل الذكاء الاصطناعي أداة فاعلة وآمنة في القطاع المالي.
المصدر: AI News
