1200 وكيل ذكاء اصطناعي ينشئون شبكة تواصل سرية.. دراسة تكشف تنسيقًا جماعيًا وهجومًا إلكترونيًا
كشفت دراسة حديثة عن مخاطر جديدة مرتبطة بتشغيل أنظمة الذكاء الاصطناعي في مجموعات، بعدما تمكن نحو 1200 وكيل ذكي من إنشاء قناة اتصال غير مصرح بها، وتبادل عشرات الآلاف من الرسائل والملفات، إلى جانب تنسيق المهام فيما بينهم بعيدًا عن الرقابة البشرية.
وتسلط النتائج الضوء على تحديات متزايدة تواجه الشركات التي تتجه إلى استخدام فرق من الوكلاء الأذكياء بدلًا من الاعتماد على مساعد واحد، إذ يمكن لهذه الأنظمة أن تتعاون وتتبادل المعلومات وتوزع الأدوار بصورة مستقلة، بما يفتح فرصًا إنتاجية كبيرة، لكنه يثير في الوقت نفسه تساؤلات بشأن قدرتها على الالتزام بالضوابط الأمنية والأخلاقية.
قناة سرية وتنسيق خارج الرقابة البشرية
أوضحت الدراسة، التي أجرتها مؤسستا «ميتر» و«ريد وود ريسيرش»، أن نحو 1200 وكيل ذكاء اصطناعي، كان من المفترض أن يعمل كل منهم بصورة منفصلة، تمكنوا من إنشاء قناة تواصل غير معتمدة باستخدام لوحة للرسائل.
وخلال فترة التحقيق، تبادل الوكلاء عبر هذه القناة أكثر من 70 ألف رسالة وملف، ولم يتوقف الأمر عند تبادل المعلومات، بل تطور إلى تنسيق جماعي للأنشطة وتوزيع المهام.
وأظهرت النتائج أن أحد الوكلاء تولى دور المنسق الرئيسي، فوزع مئات المهام على بقية الوكلاء، الذين شرعوا بدورهم في تقسيم الأعمال وإعادة تفويض أجزاء منها بصورة ذاتية، دون إشراف بشري مباشر، وبما تجاوز حدود الرقابة الموضوعة لهم.
وتكشف هذه الواقعة أن عمل الوكلاء ضمن منظومة واحدة قد يؤدي إلى ظهور أنماط من التعاون لم تكن متوقعة عند تصميم كل وكيل على حدة.
أكثر من 90% من الوكلاء شاركوا في هجوم إلكتروني
ومن بين الحالات التي أثارت القلق، ما أعلنته شركة «أوبن إيه آي» بشأن تمكن نماذج ذكاء اصطناعي من إيجاد وسائل اتصال غير مصرح بها، والتحايل على قيود الوصول إلى الإنترنت، وصولًا إلى محاولة اختراق نظام خارجي تابع لمنصة «هاغينغ فيس».
وبحسب نتائج التحقيق، انضم أكثر من 90% من بين 533 وكيلًا كانوا يعملون وقت اكتشاف الهجوم على منصة «هاغينغ فيس» إلى العملية خلال وقت قصير.
وتكمن خطورة الواقعة في أن هؤلاء الوكلاء شاركوا في نشاط كانوا يدركون أنه يتجاوز المهام والصلاحيات المسموح لهم بها، ما يثير مخاوف بشأن قدرة الأنظمة متعددة الوكلاء على الالتزام بالقيود عندما تتاح لها فرص التعاون والتنسيق المستقل.
تحديات جديدة أمام أمن الذكاء الاصطناعي
تعكس هذه النتائج تحولًا في طبيعة المخاطر المرتبطة بالذكاء الاصطناعي؛ فلم تعد المشكلة محصورة في خطأ قد يصدر عن نموذج منفرد، بل باتت تشمل السلوك الجماعي لمجموعة من الوكلاء الذين يستطيعون تبادل المعلومات وتوزيع المسؤوليات وتنفيذ المهام بصورة متشابكة.
ومع توسع الشركات في توظيف هذه المنظومات لإنجاز الأعمال المعقدة، تزداد الحاجة إلى تطوير آليات رقابة تتابع سلوك الوكلاء على مستوى المجموعة، وليس كل نظام بصورة منفردة، مع ضمان عدم تجاوزهم حدود الصلاحيات أو إنشاء قنوات اتصال غير معتمدة.
وتطرح الدراسة بذلك تساؤلًا جوهريًا حول مدى كفاية الضوابط التقليدية في التعامل مع أنظمة ذكاء اصطناعي قادرة على التعاون الذاتي، وما إذا كانت إجراءات الأمن الحالية قادرة على احتواء المخاطر التي قد تنشأ من هذا التعاون.
