أطلقت شركة OpenAI أحدث أطر الحوكمة التي توفر للشركات إطار عمل منظم يوجه عملية توسيع استخدام الذكاء الاصطناعي بشكل آمن ومتوافق على مستوى العالم. مع تزايد الاعتماد على النماذج اللغوية الكبيرة، أصبح من الضروري بناء بنية تحتية مستدامة عالية الجودة تلبي متطلبات السوق التجارية.
الهيكلية الجديدة، المعروفة باسم “إطار حوكمة الحدود” (FGF)، توثق كيف تتعامل الشركة مع تقييم وتقليل المخاطر النظامية. يتطابق هذا الإطار بشكل مباشر مع ممارسات الاتحاد الأوروبي الخاصة بالذكاء الاصطناعي، مثل مدونة الممارسات العامة، وقانون الشفافية في الذكاء الاصطناعي المستقبلي في كاليفورنيا، المعروف بـ TFAIA. يوفر هذا النموذج العملي دليلاً واضحًا على كيفية تنظيم الأنظمة الداخلية وخطوط نشر النماذج لضمان تشغيلها بشكل آمن وموثوق.
### فهم المخاطر النظامية وتحديدها
يبدأ تطبيق هذه الأطر من خلال فهم فئات التهديدات المحددة. يُعرف الإطار المخاطر النظامية بأنها تلك المخاطر المتوقعة التي قد تتسبب في أضرار جسيمة، مثل حالات تؤدي إلى أكثر من 50 وفاة أو خسائر مادية بقيمة مليار دولار من حادث واحد. رغم أن مثل هذه السيناريوهات نادرة جدًا، إلا أن تصنيفها يساعد فرق التطوير على وضع ضوابط واحتياطات مناسبة، وتخصيص موارد الحوسبة والوقت الهندسي لمراقبة النماذج بعد إطلاقها بشكل مستمر، والتأكد من التزامها بالتشريعات طوال دورة حياتها.
### تقييم المخاطر داخل الأنظمة
تصنف OpenAI التهديدات إلى مجالات محددة، مثل الهجمات الإلكترونية، والمخاطر الكيميائية والبيولوجية والإشعاعية والنوية (CBRN)، والتلاعب الضار، وفقدان السيطرة على النماذج.
تُستخدم درجات مخاطر مختلفة لتقييم قدرات النماذج. فمثلاً، تصنيف من المستوى الثالث (Tier 3) ينطبق على نماذج قادرة على اكتشاف واستغلال الثغرات الأمنية بشكل مستقل، دون تدخل بشري، ويمكن أن تساهم في تطوير تهديدات بيولوجية خطيرة أو تنجز عمليات تصنيع بيولوجية محظورة.
بالنسبة لمجال CBRN، يمكن لنموذج من المستوى الثالث أن يمكن خبيرًا من تطوير تهديد جديد وخطير، يعادل عامل بيولوجي من الفئة أ، أو يكتمل بشكل مستقل في دورة تصنيع مادة بيولوجية محظورة. يمكن استخدام هذه التصنيفات لتحديد حدود السلامة لنسخ النماذج الخاصة بالشركة، ومعرفة متى يحتاج النموذج إلى إشراف إضافي.
### التلاعب الضار وفقدان السيطرة
يشير الإطار أيضًا إلى مخاطر التلاعب المقصود، مثل استخدام النماذج للتأثير على الرأي العام أو التدخل في العمليات الانتخابية. يوضح أن التعامل مع هذا النوع من المخاطر يتطلب استراتيجيات على مستوى النظام، مثل المراقبة بعد الإطلاق، بدلاً من التقييم قبل النشر.
وفيما يخص فقدان السيطرة على النماذج، يُصنف هذا الخطر على أنه مستوى أعلى، حيث يمكن لنموذج من المستوى الثاني أن يتجنب الكشف عنه بشكل موثوق، بينما يُوصف النموذج من المستوى الثالث بأنه يتفوق على خبراء متمرسين في تنفيذ مشاريع معقدة، ويعمل بشكل مستقل لفترات طويلة، مع وعي دقيق بالموقف وبتقنيات تخفي تتيح له التهرب من المراقبة البشرية.
### حماية البيانات والأمان الداخلي
تتوافق أنظمة الأمن الداخلي لـ OpenAI مع معايير ISO 27001، و27017، و27018، و27701، بالإضافة إلى تقييمات SOC 2 من النوع الثاني. تستخدم الشركة تقنيات تشفير متقدمة، وتطبيق بروتوكولات تحقق متعددة العوامل، وعمليات موافقة داخلية صارمة. كما يتم تشغيل النماذج داخل بيئات معزولة لضمان عدم تسرب البيانات.
عند اعتماد الشركات لهذه الأنظمة، فإنها تؤسس لقاعدة أمان قوية لعملياتها الداخلية، خاصة عند دمج النماذج مع بيانات الشركة الخاصة باستخدام قواعد بيانات متقدمة ومعززة.
### الالتزام بالمبادئ والتعامل مع الحوادث
للحفاظ على معايير الأمان، تعتمد OpenAI على خبراء مستقلين لتقييم الإجراءات والتأكد من فاعليتها، ويشترك خبراء خارجيون في تقييم نماذجها الجديدة وتقيمها بشكل مستقل.
تلتزم الشركة أيضًا بإعداد تقارير دورية عن السلامة والأمان، وتقييم مدى التزامها بالقوانين الأوروبية، مثل قانون الذكاء الاصطناعي، مع تحديثها كل ستة أشهر عند حدوث تغييرات جوهرية في قدرات النماذج.
وفي حالة وقوع حوادث أو خلل أمني، تعتمد OpenAI خطة استجابة للحوادث، تتضمن خطوات للتشخيص والتقرير الخارجي، وإجراءات للتعامل مع الحالات الطارئة بشكل سريع وفعال. يمكن للشركات بشكل مماثل إنشاء وحدات داخلية خاصة لمراقبة وتحليل أي سلوك غير معتاد للنماذج، والاستجابة بسرعة قبل تصاعد الأمور.
### الختام
يؤكد خبراء OpenAI أن دمج النماذج الحسابية المتقدمة يمثل خطوة مهمة لتعزيز الكفاءة المؤسسية، ويجب أن تترافق مع تطبيق هذه الأطر لضمان أمانها وامتثالها المستمر. من خلال تبني هذه المبادئ، يمكن للشركات بناء بنية تحتية قوية تتكيف مع متطلبات التشريعات الحديثة، وتحمي مصالحها من المخاطر المحتملة المرتبطة بالذكاء الاصطناعي.
المصدر: AI News
