خلاف بين OpenAI وأنثروبيك حول نشر مخاطر الذكاء الاصطناعي.. من يراقب الشركات المطورة؟
كشف تحقيق لوكالة «رويترز» عن خلافات بين شركتي OpenAI وأنثروبيك والجهات المستقلة المكلفة بتقييم نماذج الذكاء الاصطناعي، بشأن مدى استقلالية المقيمين وحقهم في نشر نتائج الاختبارات دون موافقة الشركات المطورة.
وتأتي هذه الخلافات وسط تصاعد المخاوف من قدرات أنظمة الذكاء الاصطناعي المتقدمة واحتمال تنفيذها سلوكيات تتجاوز التعليمات البشرية، ما يعزز أهمية وجود جهات مستقلة قادرة على تقييم المخاطر والإفصاح عنها.
قيود على نشر نتائج التقييم
وبحسب التحقيق، سعت الشركتان خلال مفاوضاتهما مع جهات التقييم إلى وضع قيود على المعلومات التي يمكن نشرها، مبررتين ذلك بالحاجة إلى حماية الأسرار التجارية والملكية الفكرية.
وشملت نقاط الخلاف السماح لموظفي الشركات المطورة بحضور الاختبارات، وفرض قيود على تعامل بعض المقيمين مع الشركات المنافسة، إلى جانب مراجعة التقارير قبل نشرها، خصوصًا عندما تتضمن معلومات تصنفها الشركات على أنها سرية.
اختلاف مواقف OpenAI وأنثروبيك
أكدت أنثروبيك أن المقيمين الذين سبق لهم التعاون معها يتمتعون بحرية تحديد أساليب التقييم ونتائجه، لكنها تحتفظ بحق مراجعة تقارير الجهات التي تتعاون معها للمرة الأولى والموافقة عليها.
في المقابل، نفت OpenAI سعيها إلى امتلاك حق الموافقة على النص الكامل للتقارير، موضحة أن إجراءاتها تركز على حذف المعلومات السرية، مع السماح للمقيمين بالكشف عن إجراء تعديلات جوهرية على تقاريرهم.
مطالب بضمان استقلالية تقييم الذكاء الاصطناعي
تتمثل إحدى أبرز الإشكاليات في صعوبة الفصل بين المعلومات التي تكشف مخاطر النماذج والتفاصيل التقنية التي تعتبرها الشركات أسرارًا تجارية، وهو ما يثير تساؤلات بشأن قدرة الجهات المستقلة على الإفصاح عن العيوب التي قد تهدد المستخدمين والمؤسسات.
وفي هذا السياق، طالب أكثر من 200 باحث بوضع ضمانات تحافظ على استقلالية الجهات التي تختبر نماذج الذكاء الاصطناعي، بما يضمن عدم انفراد الشركات المطورة بتحديد ما يمكن اختباره وما يجوز نشره للجمهور.
ويعيد هذا الخلاف طرح قضية الشفافية والمساءلة في قطاع الذكاء الاصطناعي، ومدى قدرة الجهات الرقابية والمستقلة على أداء دورها دون قيود قد تحد من كشف المخاطر المحتملة.
