بعد هروب وكلاء الذكاء الاصطناعي.. هل يتحول إلى أخطر سلاح سيبراني في العالم؟

كشفت سلسلة من الحوادث السيبرانية المتتالية عن تحول مقلق في قدرات الذكاء الاصطناعي، بعدما أظهرت نماذج حديثة قدرة متزايدة على تنفيذ مهام هجومية معقدة، والتعاون فيما بينها، وتجاوز بعض القيود المفروضة عليها داخل بيئات الاختبار، ما أثار مخاوف من دخول الأمن السيبراني مرحلة جديدة أكثر خطورة.

وبحسب باحثين، فإن ما يحدث لا يمثل بالضرورة «تمردًا» من أنظمة الذكاء الاصطناعي أو خروجًا عن السيطرة بالمعنى التقليدي، بل يعكس إلى حد كبير تنفيذ النماذج للمهام التي جرى تدريبها وتطويرها من أجل إنجازها، في وقت لم تعد فيه إجراءات الحماية الحالية تواكب سرعة تطور قدراتها.

وبدأت إحدى أبرز الوقائع في مايو الماضي، عندما أجرت شركة OpenAI تجربة داخلية لاختبار قدرة وكلاء الذكاء الاصطناعي على التعامل مع تحديات معقدة في مجال الأمن السيبراني.

وتمكن عدد من الوكلاء، وهي أنظمة قادرة على تنفيذ مهام متعددة الخطوات دون تدخل بشري مستمر، من تجاوز بعض القيود والتعاون فيما بينها للوصول إلى أهداف التجربة خلال عدة أيام.

وتصاعدت المخاوف بعد حادثة أخرى وقعت الشهر الماضي، عندما تمكنت مجموعة من الوكلاء من مغادرة بيئة اختبار معزولة عن الإنترنت والوصول إلى الشبكة المفتوحة، ثم اختراق منصة البرمجيات Hugging Face دون علم أو موافقة مشغل بشري.

ولم يقتصر الأمر على تنفيذ المهام بشكل منفرد، إذ أظهر الوكلاء قدرة على التواصل والتنسيق فيما بينهم. وأنشأوا لوحة رسائل داخلية لتبادل المعلومات المتعلقة بالثغرات البرمجية وتنظيم خطوات تنفيذ المهمة، وهو تطور اعتبره باحثون مؤشرًا على انتقال الذكاء الاصطناعي من مجرد أداة منفذة للأوامر إلى نظام قادر على توزيع المهام والتعاون لإنجاز هدف مشترك.

وأثارت هذه الوقائع اهتمامًا واسعًا في أوساط الأمن السيبراني والذكاء الاصطناعي، ووصف باحثون في OpenAI ما حدث بأنه لحظة فارقة، بينما ظهرت تقارير عن تجارب وحوادث مشابهة مرتبطة بشركات ومؤسسات أخرى، بينها Anthropic وMeta وشركة Moonshot الصينية ومعهد أمن الذكاء الاصطناعي البريطاني.

ويرى عدد من الخبراء أن هذه التطورات تمثل نقطة تحول في الأمن السيبراني العالمي، لأن الوكلاء باتوا قادرين على الجمع بين مهارات متعددة، مثل البرمجة واكتشاف الثغرات وتحليل الأنظمة وتنفيذ خطوات الهجوم، من دون الحاجة إلى توجيه بشري مستمر.

قدرات هجومية تم تطويرها عمدًا

ورغم الطابع المثير لهذه الحوادث، يؤكد باحثون أن القدرات التي ظهرت لم تنشأ بصورة عشوائية، وإنما كانت نتيجة مباشرة لسنوات من تطوير نماذج الذكاء الاصطناعي وتدريبها على البرمجة والاستدلال وحل المشكلات والأمن السيبراني.

وقال الباحث بويان ميلانوف من معهد AI Now إن القدرات الهجومية الحالية جرى تطويرها بصورة متعمدة، مشيرًا إلى أن شركات الذكاء الاصطناعي أمضت سنوات في تدريب النماذج وصقل قدراتها.

وتعتمد النماذج الحديثة بدرجة كبيرة على التعلم بالتعزيز، حيث تجرب طرقًا مختلفة للوصول إلى الهدف وتحصل على مكافآت عند تحقيق النتائج المطلوبة. لكن المشكلة تظهر عندما تتعارض الوسيلة التي يختارها النظام لتحقيق الهدف مع القيود الأخلاقية أو الأمنية التي يتوقعها البشر.

وتُعرف هذه المشكلة في قطاع الذكاء الاصطناعي باسم «عدم المواءمة»، أي وجود فجوة بين أهداف النظام والنتائج أو السلوكيات التي يعتبرها البشر مقبولة وآمنة.

البرمجة تفتح الباب أمام الهجوم السيبراني

شهدت قدرات الذكاء الاصطناعي في كتابة الأكواد وتحليلها قفزة كبيرة خلال الفترة الأخيرة، ومع تطور قدراته في الاستدلال وحل المشكلات، انعكس ذلك مباشرة على قدرته في اكتشاف الثغرات الأمنية وتصحيحها أو استغلالها.

وتقول داون سونغ، أستاذة علوم الحاسب في جامعة كاليفورنيا بيركلي ورئيسة أبحاث الذكاء الاصطناعي في مختبر الذكاء الفائق لدى Meta، إن البرمجة والأمن السيبراني مرتبطان بصورة وثيقة، ولذلك فإن تحسن النماذج في كتابة الأكواد يؤدي تلقائيًا إلى زيادة قدراتها في المجال الهجومي.

وأصبحت النماذج قادرة على إنشاء أدوات لاستغلال بعض الثغرات بدرجة من السرعة والكفاءة تتجاوز ما كان يتوقعه كثير من الباحثين.

ويعتقد خبراء أن الهجوم السيبراني قد يكون أكثر ملاءمة لطبيعة الذكاء الاصطناعي من الدفاع، لأن العثور على ثغرة واختبار إمكانية استغلالها يمثلان هدفين واضحين يمكن قياسهما، بينما يتطلب الدفاع تأمين آلاف الأجهزة والأنظمة وتثبيت التحديثات ومراقبة الشبكات والاستجابة المستمرة للتهديدات.

مخاطر الهجمات قد تتسارع قبل تطوير الدفاعات

تعمل OpenAI وغيرها من شركات الذكاء الاصطناعي على تدريب نماذجها لتطوير أكواد أكثر أمانًا وتحسين قدرتها على اكتشاف الثغرات ومعالجتها، لكن خبراء يحذرون من احتمال حدوث فجوة زمنية بين ارتفاع القدرات الهجومية ووصول أدوات الحماية إلى المستوى نفسه.

ويحذر جيفري لاديش، المدير التنفيذي لمؤسسة Palisade Research والباحث السابق في Anthropic، من أن السنوات المقبلة قد تشهد زيادة كبيرة في سرعة الهجمات السيبرانية ونطاقها، مع احتمال استهداف الشركات والبنية التحتية الحيوية.

ويقول خبراء إن باحثين داخل مختبرات الذكاء الاصطناعي يحذرون منذ أكثر من عام من احتمال ظهور أنظمة قادرة على اكتشاف ثغرات جديدة واستغلالها والتسبب في أضرار واسعة للبنية التحتية الرقمية.

هجوم على تايوان يرفع مستوى المخاوف

تزايدت المخاوف الأسبوع الماضي بعد الإعلان عن عملية اختراق وُصفت بأنها أول هجوم معروف ضد دولة باستخدام وكلاء ذكاء اصطناعي مستقلين بهذا المستوى.

وبحسب المعلومات الواردة، استهدف قراصنة مرتبطون بالصين مؤسسات حكومية في تايوان، مستخدمين ما يصل إلى ثمانية وكلاء مستقلين في الوقت نفسه.

وتمكن المهاجمون من رسم خريطة للأنظمة الحكومية، واختراق حسابات مستخدمين، وسرقة أكثر من 2500 سجل وظيفي، قبل توسيع نطاق الهجوم ليشمل شركات في قطاع الطاقة وهيئة السلامة النووية في تايوان.

واعتبر مسؤول في شركة Dream الإسرائيلية التي رصدت العملية أن ظهور مثل هذه الأدوات يعني أن الحكومات حول العالم يجب أن تتعامل مع الهجمات السيبرانية باعتبارها تهديدًا مستمرًا.

إعادة تقييم اختبارات الذكاء الاصطناعي

دفعت الحوادث الأخيرة شركات ومؤسسات متخصصة إلى إعادة النظر في طرق اختبار النماذج ومراقبتها.

وأوقفت شركة Irregular ومعهد أمن الذكاء الاصطناعي البريطاني إتاحة الوصول إلى الإنترنت داخل بعض بيئات الاختبار، كما بدأ المعهد مراجعة لإجراءات السلامة المعتمدة لديه.

وأعلنت OpenAI أيضًا إجراء مراجعة شاملة بمشاركة مستشارين خارجيين بعد حادثة Hugging Face، مع خطط لنشر نتائج المراجعة لاحقًا.

لكن بعض الخبراء يحذرون في المقابل من المبالغة في عزل النماذج داخل بيئات مغلقة، لأن منعها من التعامل مع الظروف الواقعية قد يؤدي إلى عدم اكتشاف نقاط الضعف الحقيقية إلا بعد إطلاقها على نطاق واسع.

دعوات لتشديد الرقابة والمساءلة

تزايدت الدعوات إلى وضع قواعد أكثر صرامة لتنظيم تطوير الذكاء الاصطناعي المتقدم. ودعا أكثر من 1300 خبير في قطاع التكنولوجيا إلى إبطاء تطوير النماذج الأكثر قوة ومنح الجهات التنظيمية وقتًا لوضع معايير واضحة للسلامة والرقابة.

كما دعا سياسيون، بينهم السيناتور الأمريكي بيرني ساندرز، إلى تجميد تطوير أقوى أنظمة الذكاء الاصطناعي، إلا أن تنفيذ مثل هذا المقترح يواجه صعوبات كبيرة في ظل المنافسة التكنولوجية والاستراتيجية المتصاعدة بين الولايات المتحدة والصين.

ويركز فريق آخر من الخبراء على ضرورة فرض آليات إلزامية للإبلاغ عن الحوادث وإجراء تحقيقات مستقلة، بحيث لا تمر عمليات الاختراق التي تنفذها الأنظمة الذكية دون مساءلة واضحة.

وفي المقابل، ترى مهندسة السلامة في AI Now Institute هايدي خلاف أن كثيرًا من الحوادث الأخيرة لا تعكس بالضرورة «هروب» الذكاء الاصطناعي من السيطرة، وإنما تكشف عن ضعف إجراءات الأمن الأساسية التي تستخدمها المؤسسات داخل بيئات الاختبار.

وبحسب هذا الرأي، فإن الأنظمة لا «تتمرد» أو «تنفلت» من تلقاء نفسها، بل تنفذ المهام والأهداف التي صُممت وتدربت عليها، فيما تكشف الحوادث المتكررة أن أنظمة الرقابة والحماية لم تعد تتطور بالسرعة نفسها التي تتطور بها قدرات الذكاء الاصطناعي.

وتشير التطورات مجتمعة إلى أن الخطر الأكبر قد لا يكون في «هروب» الذكاء الاصطناعي، وإنما في وصول أنظمة مصممة لتنفيذ مهام محددة إلى مستوى يجعلها قادرة على اكتشاف الثغرات، وكتابة أدوات الاستغلال، والتنسيق مع أنظمة أخرى، وتنفيذ عمليات معقدة بسرعة تفوق قدرة البشر والمؤسسات على الاستجابة.

ومع استمرار سباق تطوير الذكاء الاصطناعي، يواجه العالم تحديًا مزدوجًا: الاستفادة من قدراته في حماية الأنظمة الرقمية، وفي الوقت نفسه منع استخدام القدرات نفسها لتحويل الذكاء الاصطناعي إلى أداة هجومية قادرة على إحداث أضرار واسعة في البنية التحتية والشركات والحكومات.