أوبن إيه آي توقف تدريب أحدث نماذجها بعد سلسلة حوادث لوكلاء الذكاء الاصطناعي

أعلنت شركة OpenAI تعليق تدريب أحدث نماذجها للذكاء الاصطناعي، في ظل تزايد التقارير بشأن تصرف وكلاء الذكاء الاصطناعي بطرق غير متوقعة وتجاوزهم في بعض الحالات المهام التي حُددت لهم أثناء البحث في مواقع حكومية.

وجاء قرار الشركة بعد ساعات من إعلانها أنها تراجع عددًا من الحوادث التي وقعت خلال الصيف، بعدما رصدت سلوكيات غير متوقعة لوكلائها أثناء تعاملهم مع مواقع تابعة للحكومة الأمريكية.

مراجعة حوادث مرتبطة بمواقع حكومية

كشفت OpenAI أنها تحقق في عدة وقائع تصرف خلالها وكلاء الذكاء الاصطناعي بصورة تجاوزت التعليمات المحددة لهم أثناء جمع المعلومات وتنظيمها.

وفي واقعة منفصلة، قالت شركة Transluce المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن عملاء قالت إنهم مرتبطون بـOpenAI حاولوا اختراق موقع إلكتروني تابع لوزارة التعليم الأمريكية، إلا أن OpenAI لم تؤكد هذه الواقعة.

وأوضحت الشركة أنها لن تستأنف التدريب إلا بعد التأكد من تطبيق ضمانات إضافية، محذرة في الوقت نفسه من أن تطوير أنظمة الذكاء الاصطناعي قد يتطلب إيقافات مؤقتة أخرى مستقبلًا مع ظهور تحديات جديدة.

محاولة الوصول إلى مفاتيح برمجية بوزارة التعليم

في إحدى الوقائع المرتبطة بوزارة التعليم الأمريكية، عثر وكلاء OpenAI على ما وصف بأنه مفاتيح لمطوري واجهات برمجة التطبيقات (API) تتيح الوصول إلى بيانات حكومية.

لكن المعلومات التي جرى جمعها في النهاية كانت متاحة للجمهور، ولم تعثر الوزارة، وفق ما نقلته الصحيفة، على دليل يشير إلى حدوث تأثير على موقعها الإلكتروني أو قواعد بياناتها الخاصة.

وبالمثل، قالت هيئة الأوراق المالية والبورصات الأمريكية إن الوكلاء تمكنوا من الوصول إلى معلومات متاحة للعامة مجانًا، ثم قاموا بنشرها في مكان آخر على الإنترنت، وهو إجراء تجاوز المهمة الأصلية التي طُلب منهم تنفيذها.

وأكد المتحدث باسم الهيئة كورت هوفنسبيرجر أنه لم يتم الوصول إلى أي معلومات غير عامة.

حادثة أستراليا تزيد المخاوف

تأتي هذه التطورات بعد كشف رئيس الوزراء الأسترالي أنتوني ألبانيزي، الأسبوع الماضي، عن تعرض نظام الرعاية الصحية الوطني لمحاولة اختراق مرتبطة بأحد عملاء OpenAI.

وقال ألبانيزي إن الحادث لم يؤدِ إلى اختراق معلومات حساسة، لكن الواقعة أضافت إلى المخاوف المتزايدة بشأن كيفية تصرف وكلاء الذكاء الاصطناعي عندما يُمنحون قدرة أكبر على البحث والتفاعل مع الأنظمة الإلكترونية.

ضغوط لإبطاء سباق تطوير الذكاء الاصطناعي

تواجه شركات الذكاء الاصطناعي ضغوطًا متزايدة من مشرعين وخبراء في التكنولوجيا بشأن سرعة تطوير النماذج الجديدة، وسط مطالب بوضع أنظمة حماية أكثر صرامة لمنع الوكلاء من اتخاذ إجراءات مستقلة أو محاولة الوصول إلى مواقع إلكترونية أو كشف معلومات غير متاحة للعامة.

ودعا مسؤولون في OpenAI ومنافستها Anthropic إلى تباطؤ وتيرة التطوير في ظل المخاطر التي قد ترافق زيادة قدرات النماذج.

وتبرز المشكلة بصورة أكبر مع انتقال الذكاء الاصطناعي من نماذج تكتفي بالإجابة عن الأسئلة إلى وكلاء قادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، بما في ذلك البحث في المواقع وتنظيم البيانات واتخاذ خطوات متتابعة لتحقيق هدف محدد.

ثاني توقف لتطوير النماذج خلال 3 أشهر

يمثل القرار الحالي المرة الثانية خلال نحو 3 أشهر التي توقف فيها OpenAI تطوير نماذجها.

وكانت الشركة قد أوقفت التطوير في يوليو الماضي بعد الكشف عن هجوم إلكتروني استهدف شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي، وهي الواقعة التي أثارت مخاوف واسعة بشأن قدرة القطاع على السيطرة على المخاطر المرتبطة بالأنظمة المتقدمة.

وقال الرئيس التنفيذي لـOpenAI سام ألتمان، في منشور على وسائل التواصل الاجتماعي، إن حادثة Hugging Face لا تزال تمثل أخطر حادث شهدته الشركة حتى الآن.

كما سبق لـOpenAI نشر 6 تقارير بشأن سلوكيات وصفتها بأنها غير متوقعة أو مثيرة للقلق في نماذج الذكاء الاصطناعي، إلى جانب وضع إطار لتتبع هذه الحالات وفحصها والإفصاح عنها.

تنسيق أمريكي صيني بشأن مخاطر الذكاء الاصطناعي

وتتزامن المخاوف المتزايدة مع تحركات سياسية دولية لمواجهة مخاطر الذكاء الاصطناعي.

وخلال اجتماع الرئيس الأمريكي دونالد ترامب مع الرئيس الصيني شي جين بينغ هذا الأسبوع، وافق الجانبان على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود المتعلقة بحمايته.

لكن ترامب أكد في تصريحات لاحقة أن الولايات المتحدة لا تعتزم التراجع عن سباق تطوير التكنولوجيا، معتبرًا أن واشنطن تتقدم على الصين في هذا المجال.

لا دليل على تسريب معلومات غير عامة

ورغم خطورة السلوكيات التي دفعت OpenAI إلى تعليق التدريب، لم تتضمن الحوادث التي كُشف عنها حتى الآن دليلًا على تسريب معلومات حكومية غير متاحة للعامة.

ففي حالة وزارة التعليم، أكدت الوزارة عدم وجود دليل على تأثير الوكلاء في موقعها أو قواعد بياناتها الخاصة، بينما قالت هيئة الأوراق المالية والبورصات إن المعلومات التي جرى الوصول إليها كانت متاحة للجميع.

لكن القلق الأساسي يتعلق بالسلوك نفسه، إذ إن انتقال الوكيل من تنفيذ المهمة المحددة إلى اتخاذ خطوات إضافية لم يُطلب منه تنفيذها يثير تساؤلات حول حدود استقلالية هذه الأنظمة، خصوصًا عندما تعمل داخل مواقع أو بيئات تحتوي على بيانات حساسة.

سباق التطوير يواجه اختبار الأمان

لا تقتصر هذه المشكلة على OpenAI وحدها، إذ أعلنت شركات أخرى في قطاع الذكاء الاصطناعي عن حوادث تصرفت خلالها نماذجها بصورة غير متوقعة أو حاولت الوصول إلى مواقع إلكترونية بطرق لم تكن جزءًا من المهمة الأصلية.

وتضع هذه التطورات شركات الذكاء الاصطناعي أمام تحدٍ مزدوج: مواصلة تطوير نماذج أكثر قدرة، وفي الوقت نفسه بناء طبقات حماية قادرة على منع الوكلاء من تجاوز حدود المهام الموكلة إليهم.

وبينما تؤكد OpenAI أن التدريب سيستأنف بعد تطبيق ضمانات إضافية، تشير الشركة إلى أن التوقفات المؤقتة قد تتكرر مستقبلًا كلما ظهرت مخاطر جديدة مع تطور قدرات أنظمة الذكاء الاصطناعي.