تسلل ثغرة أمنية في منصة الذكاء الاصطناعي ServiceNow في بداية هذا العام يعكس تحولًا أوسع في مخاطر الأمن السيبراني للشركات. على الرغم من عدم وجود أدلة على استغلال الثغرة قبل إصدار التصحيح، إلا أن الحادث يُعد تحذيرًا هامًا لخبراء الأمن السيبراني. فضعف قدرات الذكاء الاصطناعي التفاعلي يمكن أن يتيح انتحال شخصية المستخدم وتنفيذ عمليات ذات صلاحيات عالية، مما يظهر كيف تتطور التهديدات الحديثة لتتجاوز الاختراقات التقليدية للبيانات.
### أهمية الثغرة وتأثيرها على المؤسسات
وفي الوقت الذي يتوقع فيه خبراء الصناعة أن تصل نسبة التطبيقات المؤسسية التي تعتمد على وكلاء الذكاء الاصطناعي إلى 40% بحلول عام 2026، أظهرت أبحاث حديثة أن حوالي 47% من هذه الوكلاء يعملون بدون إشراف أو رقابة مناسبة. ويُقدر أن هناك حوالي 1.5 مليون وكيل غير مراقب يُستخدمون في مؤسسات كبرى في المملكة المتحدة والولايات المتحدة، مما يعزز من مخاطر التشغيل غير المنضبط.
### المخاطر الناجمة عن الاعتماد على الذكاء الاصطناعي التفاعلي
بالنسبة للأعمال التي تعتمد على سلسلة التوريد، فإن خطر وجود وكلاء ذكاء اصطناعي غير خاضعين للرقابة يتضاعف بشكل كبير. فبدون إشراف دقيق، يمكن لهذه الوكلاء المستقلة أن تتسبب في اضطرابات تنتقل عبر عدة شركات ومؤسسات، مسببة تأثيرات متسلسلة. مع تزايد اعتماد المؤسسات على الذكاء الاصطناعي المدمج في برمجياتها، لم يعد الأمر مقتصرًا على حماية البيانات فقط، بل أصبح يتعلق بالسيطرة على الأنظمة التي يمكنها التصرف نيابة عن الشركة.
### التحول في نموذج الأمن السيبراني
لفترة طويلة، كانت استراتيجيات الأمن السيبراني تعتمد على حماية حدود واضحة، حيث كانت الفرق الأمنية تركز على منع الاختراقات في نقاط محددة مثل الخوادم أو الأنظمة المعزولة. لكن مع انتشار الذكاء الاصطناعي التفاعلي، تغيرت هذه المعادلة. فمع دمج الذكاء الاصطناعي في المنصات الأساسية للأعمال، لم تعد المخاطر تقتصر على أخطاء في المحتوى أو نتائج غير دقيقة، بل تتعلق مباشرة بالتصرفات التي يقوم بها الوكلاء الذكيون عبر هويات وأنظمة وواجهات برمجة التطبيقات.
### المخاطر المرتبطة بالتصرفات غير المصرح بها
عندما يتم تكوين الوكلاء بشكل خاطئ، أو يتم استغلال ثغرات أمنية، أو يُمنحون صلاحيات زائدة، يمكن أن تتصاعد النتائج بسرعة. فهذه الأنظمة تتخذ قرارات بشكل آلي وبتداخل في عدة عمليات، مما يعقد الأمر أكثر. السؤال لم يعد فقط “هل تعرضنا للاختراق؟”، بل أصبح “هل تقوم أنظمتنا بما أذنّا لها به فعلاً؟”، وهو اختلاف كبير يتطلب أدوات مراقبة وتحكم أكثر دقة.
### أهمية السيطرة التشغيلية وإدارة الصلاحيات
وفي تجارب محاكاة، أظهر الباحثون أن المهاجمين الخارجيين غير المصادق عليهم يمكنهم، باستخدام عنوان بريد إلكتروني فقط، إدخال تعليمات خبيثة في البيانات التي ستعالجها لاحقًا وكلاء الذكاء الاصطناعي ذوي الصلاحيات العليا. وإذا تُركت هذه الأنظمة بدون رقابة، فمن المتوقع أن تتكرر عمليات تنفيذ غير مصرح بها، وتوسيع الوصول عبر الأنظمة، وانتشار الأخطاء أو الأفعال الخبيثة بسرعة.
### الحاجة إلى إدارة المخاطر بشكل محكم
الثغرات الأمنية التي تسمح بانتحال شخصية المستخدم أو تنفيذ عمليات غير مصرح بها ضمن صلاحيات معينة تُعد من أخطر المشاكل التي يجب على القادة والشركات الانتباه لها، خاصة في أنظمة العمل المدعومة بالذكاء الاصطناعي. لذا، من الضروري إعادة تقييم صلاحيات النظام، وتتبُع العمليات، ورصد الأفعال غير الاعتيادية، ووضع خطط للرجوع عنها عند الحاجة.
### تعزيز القدرات الأمنية والكفاءات
الأمر يتطلب من المؤسسات الاستثمار في تطوير مهارات فرق الأمن السيبراني، حيث أن فجوة المهارات في هذا المجال لا تزال واسعة، ومعظم فرق التقنية لا تملك الدعم الكافي لفهم المخاطر الجديدة المرتبطة بالذكاء الاصطناعي. ويجب أن يكون تصميم وتنفيذ أنظمة الذكاء الاصطناعي مدعومًا بكوادر فنية ملمة بأحدث التهديدات والتقنيات.
### استراتيجيات الاستعداد والتدريب
الاختبارات العملية والتدريبات المنتظمة ضرورية لضمان جاهزية الفرق، خاصة في حالات الطوارئ. ويجب أن تشمل التدريبات فرق الإدارة العليا، والقانون، وفرق الاتصال، لضمان استجابة سريعة وفعالة عند حدوث أية مشكلة أمنية تتعلق بالذكاء الاصطناعي.
### دور القيادة والتوجيه
مع تزايد اعتماد المؤسسات على وكلاء الذكاء الاصطناعي، يتوجب على القادة تحديد مخاطر واضحة، ووضع خطط استجابة محكمة، وتدريب الفرق على التعامل مع سيناريوهات الطوارئ، بحيث تكون جاهزة للتصرف بسرعة وفعالية عند الحاجة. ويُعتبر وضع خطة واضحة للسيطرة والتصدي للأحداث غير المتوقعة من أهم أولويات الأمان السيبراني في العصر الرقمي الجديد.