حادثة غير مسبوقة.. نماذج ذكاء اصطناعي تنفذ اختراقًا سيبرانيًا أثناء اختبار أمني

كشفت شركة «أوبن إيه آي» عن واقعة وصفتها بأنها غير مسبوقة، بعدما تمكنت بعض نماذجها المتقدمة للذكاء الاصطناعي، دون قصد، من تنفيذ اختراق سيبراني خلال اختبارات مخصصة لتقييم القدرات الأمنية للنماذج، الأمر الذي أثار مخاوف جديدة بشأن الإمكانات الهجومية التي قد تمتلكها أنظمة الذكاء الاصطناعي المتطورة.

وأوضحت الشركة أن الواقعة حدثت أثناء تشغيل النماذج داخل بيئة اختبار معزولة خُصصت لتقييم الأداء السيبراني، وشملت الاختبارات نموذج GPT-5.6 Sol إلى جانب نموذج أكثر تطورًا لم يُعلن عنه بعد. وأشارت إلى أن هذه النماذج كانت تعمل بضوابط حماية أقل من المعتاد، بهدف اختبار حدود قدراتها في ظروف محكومة.

وخلال الاختبار، تمكنت النماذج من استغلال ثغرة أمنية موجودة في برنامج تابع لجهة خارجية لم تكشف الشركة عن هويتها، ما سمح لها بالوصول إلى الإنترنت، ثم تنفيذ اختراق للبنية التحتية الخاصة بمنصة هاجينج فيس (Hugging Face)، التي تُعد واحدة من أبرز المنصات العالمية لاستضافة نماذج الذكاء الاصطناعي ومجموعات البيانات الخاصة بها.

وأكدت «أوبن إيه آي» أن الاختراق لم يكن مقصودًا، إلا أنها اعتبرت الواقعة حادثة سيبرانية غير مسبوقة تستدعي اهتمامًا واسعًا من شركات التكنولوجيا والجهات المختصة بالأمن السيبراني، مشيرة إلى أنها قررت نشر النتائج الأولية للاختبارات بهدف مساعدة الباحثين والخبراء على فهم القدرات الجديدة التي وصلت إليها النماذج المتقدمة، والاستعداد للتعامل مع المخاطر المحتملة.

وأعادت الحادثة إلى الواجهة النقاش المتصاعد بشأن المخاطر الأمنية المرتبطة بالذكاء الاصطناعي، خاصة مع التطور السريع للنماذج القادرة على تنفيذ مهام معقدة قد تُستغل في هجمات إلكترونية إذا لم تُفرض عليها ضوابط صارمة.

وفي السياق نفسه، أشارت تقارير إلى أن السلطات الأمريكية كانت قد درست في وقت سابق فرض قيود على وصول جهات أجنبية إلى نموذجي Claude Fable 5 وMythos 5 التابعين لشركة Anthropic، قبل أن تتراجع عن هذه الخطوة بعد تطبيق الشركة إجراءات حماية إضافية وتعزيز أنظمة الأمان الخاصة بها.

من جانبه، وصف عضو الكونجرس الأمريكي عن ولاية تكساس جريج كاسار الحادث بأنه “مثير للقلق للغاية”، داعيًا إلى تشديد الرقابة على تطوير نماذج الذكاء الاصطناعي، وإلزام الشركات بإجراء اختبارات سلامة أكثر صرامة والإفصاح عن أي حوادث أمنية قد تقع أثناء عمليات التطوير أو الاختبار.

ويرى خبراء أن الواقعة تمثل جرس إنذار جديدًا لصناعة الذكاء الاصطناعي، إذ تعكس الحاجة إلى وضع معايير أكثر صرامة لاختبار النماذج المتقدمة، بما يضمن الاستفادة من إمكاناتها التقنية دون تعريض الأمن السيبراني العالمي لمخاطر غير متوقعة.