عندما تتخذ أنظمة الذكاء الاصطناعي قرارات ذات أثر كبير ولا يمكن شرحها بشكل كامل من قبل المؤسسة، فمن المسؤول عن تلك القرارات؟
هذا السؤال يزداد تعقيدًا مع تطور الأنظمة التي كانت تنتظر التعليمات وتبدأ الآن في العمل بشكل مستقل، حيث تتخذ مهامًا وتقرر وتتكيف بشكل ذاتي.
بالنسبة للشركات البريطانية، يثير ذلك مخاطر تتعلق بالامتثال وأخرى استراتيجية، خاصة في ظل الطموح الواضح للحكومة البريطانية لتعزيز تطوير أدوات الذكاء الاصطناعي، مع إطلاق صندوق استثمار السيادة للذكاء الاصطناعي بقيمة 500 مليون جنيه إسترليني في أبريل القادم.
أهمية المساءلة والأمان في أنظمة الذكاء الاصطناعي
تتطلب قطاعات مثل الخدمات المالية والرعاية الصحية الاعتماد على أنظمة الذكاء الاصطناعي في اتخاذ قرارات حساسة، سواء كان ذلك في تقييم الائتمان أو في مساعدة الأطباء في التشخيص.
وفي هذين المجالين، قد تعتمد الأنظمة على بيانات شخصية حساسة وتعمل دون تدخل بشري مباشر، مما يخلق مخاطر حقيقية لعواقبها على الأفراد والمؤسسات.
القوة الإقناعية المتزايدة للذكاء الاصطناعي
تتضاعف قدرة أنظمة الذكاء الاصطناعي على الإقناع، خاصة عندما تمتلك معلومات شخصية عن المستخدمين.
تشير الأبحاث إلى أن الأنظمة التي تعرف شيئًا عن المستخدمين تصبح أكثر قدرة على إقناعهم مع مرور الوقت، خاصة إذا كانت تمتلك ذاكرة دائمة.
عندما لا يستطيع المستخدمون فهم سبب استجابة النظام كما يفعل أو إذا كان يركز على مصلحتهم، تبدأ الثقة في التحول إلى اعتماد غير مشروط.
من الامتثال إلى الثقة المبنية على التصميم
مع انتقال الذكاء الاصطناعي من أدوات إلى شركاء في الحوار، يصبح التحدي الرئيسي هو بناء الثقة.
الثقة المبنية على التصميم تعني دمج مبادئ موثوقية النظام منذ بدايته، وليس إضافتها بعد النشر.
بالنسبة للشركات، فإن ذلك يعيد النظر في مفهوم الثقة؛ فهي ليست عائقًا أمام التبني، بل هي أساس لتحقيق نتائج أفضل وتفريق تنافسي حقيقي.
بناء الثقة من خلال التصميم الهيكلي والنفسي
الطبقة الهيكلية:
- يتطلب الأمر تصميم نظام يعتمد على طبقات من الاستقلالية.
- يجب أن يكون واضحًا ما يعرفه النظام، وما يمكنه القيام به، وما قام فعلاً بتنفيذه.
- يتطلب ذلك بيانات منظمة وقابلة للتتبع، وقواعد واضحة تعكس القيم والحدود، وسجلات شفافة يمكن مراجعتها.
الممارسات العملية:
- مسارات التفكير المفهومة: يجب أن يوضح النظام كيف ولماذا توصل إلى نتائج معينة، بشكل يمكن تفسيره وفهمه.
- حدود واضحة للصلاحيات: يجب تحديد نطاق ما يمكن أن يفعله ويقرره النظام، مع تجنب تصعيد مستقل غير مراقب.
- شفافية الأهداف: ينبغي أن يكون واضحًا للمستخدمين ما يسعى النظام لتحقيقه، سواء كانت دقة، أمان، كفاءة، أو نتائج تجارية.
- إمكانية الطعن والتدخل البشري: يجب أن يتيح النظام للمستخدمين تحديه وتصحيحه والخروج منه بسهولة، مع ضمان عدم التصعيد التلقائي.
- الحوكمة المدمجة: يجب أن تتضمن أنظمة التسجيل والتدقيق والمراقبة منذ البداية، وليس كإضافة لاحقة.
المراقبة قبل الاعتماد الكامل
قبل أن يصل النظام إلى مرحلة الاعتمادية الكاملة، هناك فرصة لمراقبته بشكل أبطأ وأعمق.
- كيف يتصرف النظام أثناء التعلم في البيئة الحقيقية؟
- ما الأنماط التي يبدأ في تفضيلها؟
- هل يتراجع المستخدمون عن التدخل؟
- هل يثقون بسرعة أكثر من اللازم؟
هذه المراقبة تساعد المؤسسات على تجنب تصرفات غير مقصودة وتطبيع سلوكيات غير مرغوب فيها.
الجانب النفسي والثقة العاطفية
يجب أن يشعر المستخدمون بأن لديهم القدرة على التدخل، وأن يفهموا متى ولماذا يتصرف النظام بشكل معين، وكيف يمكنهم التدخل عند الحاجة.
- الأنظمة التي تبدو عاطفية أو تتصرف بطريقة تتجاوز قدراتها الحقيقية تضعف الثقة.
- من المهم أن تكون إشارات النظام لمستوى الثقة واليقين واضحة، مع إظهار حالات عدم اليقين بشكل صريح، حيث إن قول “لا أعلم” يعزز الثقة بدلاً من تقليلها.
كما يجب أن يتجنب النظام التماثل العاطفي الذي يخلق ارتباطًا غير واقعي أو يعزز الاعتماد المفرط، إذ إن الثقة المبنية على التفاعل العاطفي هشّة.
الرهان على الاتساق العقلي
الثقة الحقيقية تتأسس على نظام يتصرف بطريقة يمكن للمستخدمين فهمها وتوقعها وانتقادها بشكل نقدي.
- الأنظمة التي تظهر سلوكًا متوقعًا وقائمًا على مبادئ تبني ثقة أكثر ديمومة من تلك التي تعتمد على تأثيرات تكيفية سريعة.
- الذكاء الاصطناعي الذي يراعي القدرة على التفكير المنطقي والاستنتاج يعامل المستخدمين كمفكرين وليس كأهداف سلوكية.
سؤال مهم للمؤسسات البريطانية
بالنسبة للشركات البريطانية، فإن إعادة صياغة مفهوم الثقة في الذكاء الاصطناعي ليست مجرد مسألة أخلاقية، بل استراتيجية.
السؤال الحقيقي هو:
- ما السلوكيات التي ستعززها أنظمتنا؟
- ما الذي ستكافئه؟
- وما الذي ستخفيه أو تضعفه بشكل غير مباشر؟
الاختبار الحقيقي للمسؤولية هو المستقبل الذي نعمل على بنائه، وليس المخاطر التي نجنبها.
إن بناء أنظمة ذكاء اصطناعي مسؤولة يتطلب التفكير العميق في الآثار طويلة المدى، وليس مجرد الالتزام بالتنظيمات الحالية.
المصدر: Latest from TechRadar
