أبوظبي – الوطن:
أصدر مركز تريندز للبحوث والاستشارات دراسة بحثية جديدة بعنوان “فك شفرة الصندوق الأسود للذكاء الاصطناعي: الجهود العالمية نحو الشرح والشفافية”، أعدتها الباحثة نورة المزروعي، مديرة إدارة الذكاء الاصطناعي والتكنولوجيا بالمركز.
تناولت الدراسة واحدة من أهم القضايا الراهنة في عالم الذكاء الاصطناعي، وهي الشفافية وقابلية التفسير في النماذج المعقدة المعروفة بـ”الصندوق الأسود”، التي يصعب فهم آليات اتخاذ القرار فيها. وأكدت المزروعي أن تصاعد استخدام الذكاء الاصطناعي في مجالات حساسة كالرعاية الصحية والتمويل زاد من مطالبة الجهات التنظيمية والمجتمعات بضرورة فهم كيفية عمل هذه الأنظمة، مما أدى إلى حراك عالمي لوضع أطر تنظيمية واضحة تضمن الشرح والمساءلة.
وأوضحت الدراسة أن الاتحاد الأوروبي يتصدر الجهود التنظيمية عبر “قانون الذكاء الاصطناعي الأوروبي”، الذي يُعد أول إطار قانوني شامل يُلزم بتوفير تفسيرات مفهومة لقرارات الأنظمة الذكية. كما أشارت إلى أن دولاً عدة بدأت في دمج مبادئ الشفافية والتفسير ضمن استراتيجياتها الوطنية للذكاء الاصطناعي، رغم تفاوت مستوى الالتزام والمقاربة بين دولة وأخرى.
وسلطت الدراسة الضوء على التحديات التي تواجه المؤسسات العالمية في تطبيق مفهوم “الذكاء الاصطناعي القابل للتفسير” (XAI)، خصوصاً مع تزايد تعقيد نماذج التعلم العميق، حيث غالباً ما يكون تحقيق دقة تنبؤية أعلى على حساب الشفافية وسهولة الفهم.
وتطرقت إلى أبرز الأساليب التقنية لتعزيز الشفافية، مثل النماذج الهجينة التي تجمع بين الأنظمة القابلة للتفسير والنماذج المعقدة، وأدوات التفسير البصري مثل GRADCAM التي تُظهر للمستخدمين المناطق أو البيانات الأكثر تأثيراً في قرارات الذكاء الاصطناعي، إلى جانب تطوير واجهات تفاعلية تُسهل فهم مخرجات الأنظمة.
وأكدت الدراسة أن تعزيز الشفافية لا يقتصر على الجانب التقني فحسب، بل يتطلب تعاوناً مؤسسياً عابراً للقطاعات، ووضع معايير دولية مشتركة تضمن الاتساق في الحوكمة والالتزام بالقيم الأخلاقية. وأشادت بدور المنظمات العالمية مثل ISO وIEEE في توحيد الجهود وتطوير أطر عمل معيارية تُسهم في بناء الثقة بين المطورين والمستخدمين وصناع القرار.
واختتمت الدراسة بالتأكيد على أن الطريق نحو ذكاء اصطناعي مسؤول وموثوق يتطلب توازناً بين الأداء والشفافية، وتكاملاً بين الجوانب التقنية والتنظيمية والأخلاقية، داعيةً إلى مزيد من البحث والتعاون الدولي لتطوير حلول قابلة للتطبيق تُواكب سرعة التطور في هذا المجال الحيوي.
اترك تعليقاً
يجب أنت تكون مسجل الدخول لتضيف تعليقاً.