تتجه أنظمة الذكاء الاصطناعي المستقلة إلى الانتقال من بيئات البرمجيات إلى التطبيقات المادية في المستودعات، وشبكات التوصيل، والأماكن العامة. هذا التطور يثير تساؤلات حول مدى تغطية القوانين الحالية للذكاء الاصطناعي للأنظمة التي تعمل في بيئات حقيقية، حيث يمكن أن تؤدي الأخطاء إلى تأثيرات مباشرة على البنية التحتية والممتلكات وسلامة الإنسان.
### إطارات الحوكمة الحالية للذكاء الاصطناعي
حتى الآن، ركزت معظم أطر حوكمة الذكاء الاصطناعي على المخاطر الرقمية والنماذج الناتجة عنها، بما يشمل التحيز، والأخبار الكاذبة، والمحتوى الضار. أما الأنظمة المادية، فهي تحمل مخاطر أكبر، إذ أن فشلها قد يهدد البنية التحتية أو يسبب أضرارًا مادية أو إصابات بشرية.
### إطار الحوكمة في سنغافورة
نشرت هيئة تكنولوجيا المعلومات والإعلام في سنغافورة، في 20 مايو، النسخة 1.5 من إطار الحوكمة النموذجي للذكاء الاصطناعي الوكيل (Model AI Governance Framework for Agentic AI). يوجه هذا الإطار المؤسسات التي تستخدم وكلاء ذكاء اصطناعي قادرين على التخطيط واتخاذ القرارات وتنفيذ الإجراءات لتحقيق أهداف محددة من قبل المستخدم.
ويشدد الإطار على أن الوكلاء يمكنهم التفاعل مع أدوات وأنظمة خارجية، بما يشمل تحديث قواعد البيانات، وكتابة الملفات، والتحكم في الأجهزة، وإجراء المعاملات. كما يوصي بالإشراف البشري، ورقابة الوصول، والمراقبة المستمرة كجزء من إجراءات الحوكمة عند نشر هذه الأنظمة.
### التحديات التشغيلية والسلامة
ناقش خبراء في قمة الذكاء الاصطناعي في سنغافورة، الأسبوع الماضي، قضايا السلامة التشغيلية للروبوتات والأنظمة المادية، مشددين على أن المخاطر التي تنطوي عليها تتشابه مع تلك الموجودة في الطيران والبنى التحتية الحيوية، أكثر من البرمجيات التقليدية.
وأشار الدكتور يا-تشين تشانغ، عميد معهد أبحاث صناعة الذكاء الاصطناعي في جامعة Tsinghua، إلى أن الأنظمة المادية تزيد من المخاطر المرتبطة بالبرمجيات الذاتية، حيث أن الأعطال يمكن أن تؤثر مباشرة على أنظمة النقل والطائرات بدون طيار وشبكات لوجستية والبنية التحتية الحيوية.
### تقييم الاعتمادية والمراقبة بعد النشر
تناولت المناقشات ضرورة الاعتماد على نماذج تعتمد على المحاكاة، والقياسات عن بُعد، والاختبارات التكرارية بدلاً من الاعتماد على شهادة واحدة قبل النشر. كما أن الإطار ينصح بالتدرج في إطلاق الأنظمة، والتحقق المستمر، وإجراء المزيد من الاختبارات بعد التشغيل، إذ أن بعض المخاطر قد لا يمكن التنبؤ بها قبل الإصدار.
### أهمية المراقبة المستمرة
شركة “جرب” التي تقوم بتجربة السيارات ذاتية القيادة وروبوتات التوصيل في منطقة بونجول بسنغافورة، أكدت أن نجاح عمليات النشر يعتمد بشكل كبير على المحاكاة، والاختبار، والمراقبة المستمرة.
وقال ثوثين توماس باراداثيث، المدير التقني للشركة، إنهم يستخدمون أنظمة مراقبة لمتابعة أداء الروبوتات والكشف عن الأعطال غير المتوقعة بعد التشغيل، مع الإشارة إلى أن المشاكل قد تظهر بعد فترة طويلة من النشر.
### تقييم استخدامات الذكاء الاصطناعي
تشير إرشادات إطار عمل هيئة تكنولوجيا المعلومات والاتصالات في سنغافورة إلى أن تقييم استخدامات الذكاء الاصطناعي يتطلب النظر في مدى الوصول إلى البيانات، ودرجة الاستقلالية، وتعقيد المهام، بالإضافة إلى مدى قابلية عكس الإجراءات، والتعاون مع أطراف ثالثة، وتعقيد النظام بشكل عام.
كما ينصح بالإبقاء على وصول الوكلاء للأدوات والأنظمة محدودًا، وتطبيق مبدأ أدنى الحقوق، ووضع إجراءات قياسية لعمليات العمل، مع وجود آليات لإيقاف الوكلاء عن العمل عند حدوث خلل.
### مسؤولية متعددة الأطراف
تشير التقارير إلى أن الأنظمة المادية تتطلب مشاركة عدة جهات تشمل مطوري البرمجيات، ومصنعي الروبوتات، وموردي الشرائح الإلكترونية، ومشغلي البنية التحتية. كما يصعب أحيانًا تحديد المسؤولية مع استمرار الأنظمة في التكيف بعد النشر عبر التحديثات والبيانات التشغيلية.
وفي النهاية، تؤكد هيئة تنظيم المعلومات في سنغافورة على أن المسؤولية عن أفعال الوكلاء تبقى مشتركة بين المطورين والمشغلين، مع ضرورة وجود مسؤولية واضحة عبر سلسلة القيمة، من مزودي النماذج والمنصات إلى المستخدمين النهائيين.
### التطورات الصناعية والتجارية
تتوقع شركة “أبليد ماتريالز” أن تعتمد أنظمة الروبوتات على تحسين المستشعرات، وكفاءة الطاقة، والتعبئة المتقدمة، وهياكل الحوسبة، وأن تتطلب تصميمات موجهة خصيصًا للبيئات الصناعية المختلفة بدلاً من حلول موحدة.
أما شركة “غالبوت” الصينية، فهي تركز على توسيع نطاق انتشار الروبوتات البشرية، خاصة في قطاعات البيع بالتجزئة والمستودعات، عبر استخدام مختبرات تجريبية مدعومة من الحكومة وشراكات صناعية، وتطوير بيئات صناعية شبه منظمة تعتبر بداية مبكرة للتجارب التجارية.
### اليابان تواصل تطوير معايير الحوكمة
تركز اليابان على وضع معايير واضحة، وجمع بيانات الروبوتات، وتعزيز السلامة، حيث يعمل مشروع يهدف إلى جمع 100,000 ساعة من بيانات الروبوتات لدعم نماذجها الأساسية، بالإضافة إلى جهود معهد السلامة للذكاء الاصطناعي ومؤسسة هيروشيما للذكاء الاصطناعي في تطوير معايير تنظيمية عالمية.
### خطط شركة وول مارت
أما شركة وول مارت، فهي تخطط لاستخدام أنظمة الوكيل الذكي في مختلف العمليات، من التسوق إلى إدارة الموظفين والموردين. ويشمل ذلك أدوات مثل “سباركي”، المساعد الذي يمكنه إعادة طلب المنتجات وتخطيط الفعاليات، بالإضافة إلى تطوير وكلاء متخصصين للموظفين، والبائعين، والمطورين.
وتؤكد الشركة أن هذه الأنظمة تهدف إلى خلق وظائف جديدة، وليس استبدالها، مع التركيز على تحسين تجارب العملاء والكفاءة التشغيلية.
—
هل تود معرفة المزيد عن آخر تطورات الذكاء الاصطناعي وتقنيات البيانات الضخمة؟ تابع فعاليات Expo & Big Data القادمة في أمستردام و كاليفورنيا ولندن، فهي منصة مثالية للتعرف على أحدث الاتجاهات من خبراء الصناعة.
المصدر: AI News
