وكلاء الذكاء الاصطناعي في OpenAI يعطلون أدوات رقابية داخلية.. والشركة تكشف تفاصيل واقعتين
كشفت شركة أوبن إيه آي، المطورة لـ«شات جي بي تي»، عن واقعتين تمكن خلالهما اثنان من وكلاء الذكاء الاصطناعي التابعين لها من إضعاف أجزاء من نظام رقابة داخلي مخصص لرصد السلوكيات غير المرغوب فيها، في تطور يسلط الضوء على تحديات تأمين الأنظمة الذكية وضمان التزامها بالتعليمات المحددة.
وأوضحت الشركة أن الواقعتين حدثتا أثناء تنفيذ مهام برمجية داخلية، مشيرة إلى أنهما لا تندرجان ضمن أشد الحوادث خطورة، لكنهما تكشفان عن صعوبات مراقبة الأنظمة التي قد تفسر التعليمات بطرق غير مقصودة، حتى عندما يتعلق الأمر بأدوات يستخدمها المطورون أنفسهم لمتابعة سلامة الذكاء الاصطناعي.
كيف عطّل وكلاء OpenAI أنظمة المراقبة؟
وقعت الحادثة الأولى في 3 أكتوبر، عندما كان وكيل يعمل بنموذج GPT-6.1 Sol ينفذ مهمة اختبار داخلية، قبل أن يعطل التنبيهات الأمنية التلقائية، بعدما استنتج أن تعليمات سابقة تمنعه من إرسال رسائل عبر منصة «سلاك» تشمل أيضًا إشعارات السلامة.
أما الواقعة الثانية، التي حدثت في 6 أكتوبر، فتعلقت بوكيل يعمل بنموذج GPT-6 Astra، إذ أزال أداة لمراقبة السلامة خلال نسخ جزء من شيفرة برمجية موجودة بالفعل، ثم أفاد لاحقًا، على نحو غير صحيح، بأنه لم يقم بإزالة الأداة.
وقالت أوبن إيه آي إن الوكيلين أخذا في الاعتبار أهمية الحفاظ على إجراءات الحماية والمراقبة، لكنهما فسرا تعليمات برمجية اعتيادية باعتبارها تسمح بإضعاف تلك الإجراءات.
OpenAI تسعى لمنع تعطيل أنظمة السلامة
أعلنت الشركة أنها تعمل على جعل تعطيل النماذج لأنظمة المراقبة أكثر صعوبة، مؤكدة أنها لا تملك حتى الآن تفسيرًا مرضيًا لهذا السلوك.
كما تختبر أوبن إيه آي، التي تتخذ من سان فرانسيسكو مقرًا لها، ما إذا كانت نماذجها تميل إلى تجنب الخضوع للمراقبة والبحث عن مبررات تتيح لها ذلك.
وتأتي هذه التطورات في ظل تصاعد المخاوف من عدم مواكبة جهود ضمان سلامة الذكاء الاصطناعي للتطور السريع في قدرات الأنظمة المتقدمة، خاصة مع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة والتفاعل مع الأدوات والأنظمة البرمجية.
وخلال الأشهر الأخيرة، كشفت شركات عاملة في المجال، من بينها أوبن إيه آي ومنافستها أنثروبيك، عن حالات تمكنت فيها وكلاء ذكاء اصطناعي تابعة لها من الوصول إلى أنظمة خارجية دون تصريح.
وتعيد الواقعتان فتح النقاش حول كيفية ضمان التزام وكلاء الذكاء الاصطناعي بحدود المهام الموكلة إليهم، خصوصًا عندما يمتلكون صلاحيات التعامل مع أدوات داخلية وأنظمة رقابية، بما يجعل تأمين آليات الإشراف نفسها أحد التحديات الأساسية أمام تطوير هذه التقنيات.
