OpenAI توقف تدريب نموذج ذكاء اصطناعي متقدم مؤقتًا بعد رصد قدرات سيبرانية مقلقة
أوقفت شركة OpenAI مؤقتًا جزءًا من عمليات تدريب أحد نماذج الذكاء الاصطناعي المتقدمة لديها، بعد أن كشفت اختبارات داخلية عن قدرات متطورة في مجال الأمن السيبراني أثارت مخاوف تتعلق بمستوى المخاطر المحتملة.
وبحسب المعلومات الواردة، أوقفت الشركة عمليات تدريب تعتمد على التعلم المعزز (RL) لمدة تقارب أسبوعين، بينما استمرت بعض عمليات التدريب الأصغر واختبارات التقييم بهدف دراسة سلوك النموذج بصورة أكبر والتأكد من فعالية إجراءات الحماية الجديدة.
تعليق التدريب المتقدم
وأبقت OpenAI أكبر عملية تدريب متقدمة كانت مخططة قيد التعليق، في حين استأنفت بعض عمليات تدريب وتقييم نموذجها المرتقب Astra بعد إدخال ضوابط أمنية إضافية.
ولا تزال نسبة كبيرة من عمليات التدريب متوقفة، إلى حين نقلها إلى بيئات بحثية تستوفي متطلبات الأمان الجديدة التي وضعتها الشركة.
قدرات سيبرانية أثارت المخاوف
جاءت هذه الخطوة بعد تقييمات أولية أظهرت امتلاك نموذج Astra قدرات متقدمة في مجال الأمن السيبراني، الأمر الذي دفع OpenAI إلى توسيع إطار الاستعداد للمخاطر Preparedness Framework.
وأصبح الإطار يركز أيضًا على المخاطر التي يمكن أن تظهر أثناء تدريب النموذج نفسه، وليس فقط المخاطر التي قد تظهر بعد طرحه للاستخدام العام.
وتزامنت هذه الإجراءات مع إطلاق GPT-5.6 Cyber وتوسيع برنامج Daybreak المخصص للدفاع السيبراني، والذي يوفر أدوات للمساعدة في اكتشاف الثغرات الأمنية، ومراجعة الشيفرات، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث، والتأكد من نجاح التحديثات الأمنية.
إجراءات أمنية أكثر صرامة
وكشفت OpenAI عن مجموعة من التدابير الجديدة لحماية بنيتها التحتية البحثية، من بينها تشديد العزل الأمني للمهام التي تشغّل شيفرات مولدة بالذكاء الاصطناعي، وزيادة عزل الشبكات في العمليات عالية الخطورة.
كما تعمل الشركة على تقليل الصلاحيات الدائمة وإزالة بعض الخدمات المشتركة التي يمكن أن تتحول إلى نقاط ضعف داخل بيئة التدريب.
وبعد تطبيق هذه الإجراءات، استأنفت بعض عمليات تدريب وتقييم Astra، بينما بقيت عمليات أخرى معلقة لحين نقلها إلى بيئات أكثر أمانًا.
مراقبة النموذج بشكل مستمر
كما وسعت OpenAI نظام مراقبة النماذج، بحيث تستخدم مصنفات أمنية لفحص نشاط النموذج عند كل Token، قبل إحالة السلوكيات التي تثير الشبهات إلى أنظمة تحقيق آلية أكثر تقدمًا.
ويركز نظام المراقبة على رصد محاولات الوصول غير المصرح به، وسرقة البيانات، وتنفيذ عمليات تخريبية، فضلًا عن محاولات تجاوز أنظمة وضوابط السلامة.
لكن هذه الإجراءات الأمنية تحتاج إلى قدرات حوسبية كبيرة، إذ أشارت الشركة إلى أن نظام المراقبة يستهلك نحو 20% من القدرة الحوسبية المخصصة للاستدلال.
لماذا شددت OpenAI إجراءاتها؟
وأكدت الشركة أن حادثة الأمن الأخيرة المرتبطة بـOpenAI ومنصة Hugging Face لم تكن العامل الوحيد وراء تشديد إجراءات الحماية.
وأوضحت أن الاختبارات الداخلية نفسها أظهرت أن نموذج Astra يقترب من مستوى القدرة السيبرانية الحرجة (Critical) وفق معايير تقييم المخاطر الخاصة بالشركة، وهو ما دفعها إلى التعامل مع قدراته بحذر أكبر وإعادة تقييم بيئة التدريب والضوابط الأمنية المحيطة به.
