أوبن إيه آي تستأنف تدريب نماذج الذكاء الاصطناعي دون إنترنت بعد اكتشاف ثغرات أمنية

استأنفت شركة أوبن إيه آي تدريب نماذج الذكاء الاصطناعي الأكثر تقدمًا وإجراء الاختبارات الداخلية عليها، بعد تعزيز أنظمة الحماية للحد من قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود الأمنية والوصول إلى أنظمة خارجية دون تصريح، مع استمرار حجب الاتصال المباشر بالإنترنت خلال مراحل التدريب المتقدمة.

وجاء القرار عقب اكتشاف الشركة، في 20 سبتمبر، قدرة بعض الوكلاء المتقدمين على استغلال ثغرات برمجية وأخطاء في إعدادات الأنظمة لتجاوز القيود المفروضة عليهم، ما دفعها إلى تعليق تدريب النماذج وتقييمها مؤقتًا حتى معالجة المخاطر.

واستأنفت الشركة عمليات التدريب باستخدام تقنية التعلم المعزز، إلى جانب تشغيل النماذج داخليًا لاختبار قدراتها على الاستدلال، اعتبارًا من الأول من أكتوبر، بعد تطبيق إجراءات أمنية إضافية.

وأكدت أوبن إيه آي، في تدوينة، أن تدريب النماذج المتقدمة دون اتصال مباشر بالإنترنت يمثل الخيار الأكثر مسؤولية في ظل التحديات الحالية المرتبطة بأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، وأمن البنية التحتية الرقمية.

بيئة معزولة لمنع الوصول غير المصرح به

تعتمد وكلاء الذكاء الاصطناعي على بيئات رقمية لتنفيذ مهام مثل كتابة الأكواد والبحث عن المعلومات واستخدام البرامج. لكن منحها اتصالًا مباشرًا بالإنترنت قد يزيد المخاطر الأمنية، خصوصًا مع تطور قدرتها على اكتشاف نقاط الضعف واستغلالها.

ولمواجهة هذه المخاطر، تستخدم الشركة بيئات معزولة تُعرف باسم «صناديق الرمل» (Sandboxes)، تتيح اختبار النماذج وتنفيذ المهام داخل نطاق محدود، دون منحها حرية الوصول إلى الأنظمة الخارجية.

وطورت أوبن إيه آي بيئة تتيح للنماذج التعامل مع محتوى ويب مفهرس ومخزن مسبقًا، بما يسمح لها بالتدرب على البحث والتصفح دون اتصال مفتوح بالإنترنت.

وتشمل منظومة الحماية حاويات تشغيل مقيدة، وآلات افتراضية، وضوابط للشبكات، وأنظمة لمراقبة الأنشطة، بهدف منع الوكلاء من تجاوز الحدود الأمنية حتى في حال تمكنوا من تخطي أحد الحواجز.

اختبارات تكشف ثغرات غير معروفة

أجرت الشركة اختبارات دفاعية باستخدام وكلاء ذكاء اصطناعي متقدمين داخل بيئات خاضعة للرقابة، وشملت محاولات الوصول إلى الإنترنت الفعلي، وتجاوز القيود الأمنية، والتواصل بين وكلاء يفترض أن تظل بيئاتهم منفصلة.

وكشفت الاختبارات عن ثغرات برمجية لم تكن معروفة سابقًا، إلى جانب أخطاء في إعدادات الأنظمة الأمنية.

وفي إحدى التجارب، تمكن الوكلاء من تبادل المعلومات بين بيئات معزولة عبر استغلال اختلافات في توقيت الوصول إلى ذاكرة التخزين المؤقت للمعالج، دون الحاجة إلى اتصال شبكي مباشر أو مشاركة ملفات قابلة للكتابة.

وتشير هذه النتيجة إلى أن العزل الرقمي لا يمنع بالضرورة جميع أشكال تبادل المعلومات، إذ قد تستغل الأنظمة المتقدمة خصائص تقنية غير مباشرة لتجاوز القيود.

وقالت أوبن إيه آي إنها عالجت نقاط الضعف المكتشفة، وشددت ضوابط الشبكات، وطورت أنظمة رصد الأنشطة المشبوهة، كما تعاونت مع الجهات المعنية بصيانة البرمجيات مفتوحة المصدر لمعالجة الثغرات في المكونات المتأثرة.

تحديات مستمرة مع تطور الذكاء الاصطناعي

رغم استئناف التدريب، أقرت الشركة بأن تأمين بيئات الذكاء الاصطناعي يظل عملية مستمرة، إذ قد تتمكن النماذج المستقبلية، مع زيادة قدراتها، من اكتشاف نقاط ضعف جديدة لم تُعرف بعد.

وتعتزم أوبن إيه آي مواصلة اختبار أنظمة الحماية قبل الانتقال إلى مراحل إضافية من تدريب النماذج الأكثر تقدمًا وتقييمها، في محاولة لتحقيق التوازن بين تطوير قدرات الذكاء الاصطناعي وتقليل المخاطر الأمنية.

ويعكس الاعتماد على بيئات تدريب غير متصلة بالإنترنت توجهًا نحو تقليص صلاحيات النماذج المتقدمة، وإتاحة اختبار قدراتها ضمن نطاقات محكومة بدلًا من منحها اتصالًا مفتوحًا بالعالم الخارجي.