هلوسة ذكاء اصطناعي كادت تدفع القوات الأمريكية لاستهداف سفينة صينية
كادت معلومات استخباراتية مولدة بواسطة روبوت محادثة يعمل بالذكاء الاصطناعي أن تدفع القوات الأمريكية إلى تنفيذ عملية مسلحة ضد سفينة صينية، قبل إلغاء المهمة في اللحظات الأخيرة، وفقًا لرواية أوردتها CNN ولخصها موقع TechCrunch.
وبحسب الرواية، كانت طائرات عسكرية أمريكية قد أقلعت بالفعل خلال وقت سابق من ربيع العام الجاري، عندما اكتشف مسؤولون أن المعلومات التي استندت إليها العملية جرى اختلاقها بواسطة نموذج للذكاء الاصطناعي.
وكان من شأن تنفيذ العملية أن يفتح الباب أمام احتمال وقوع مواجهة مع الصين، إلا أن اكتشاف الخطأ أدى إلى إلغاء المهمة قبل تنفيذها.
كيف بدأت المعلومات الخاطئة؟
وفقًا للتفاصيل الواردة في الرواية، طلب محلل يعمل في قيادة العمليات الخاصة من روبوت محادثة بالذكاء الاصطناعي دمج معلومات من مصادر مفتوحة مع بيانات استخباراتية سرية جرى الحصول عليها من الإشارات.
وخلال معالجة البيانات، أخطأ النموذج في تحديد طبيعة حمولة السفينة الصينية، وفسر مكوناتها على أنها أجزاء مرتبطة ببرنامج للأسلحة النووية.
ولم يتوقف الأمر عند هذا الحد، إذ استخدم المحلل الأداة نفسها مرة أخرى لترتيب النتائج الخاطئة وإعادة صياغتها في صورة ملخص يبدو رسميًا، قبل أن تنتقل هذه المعلومات عبر قنوات القيادة خلال فترة الصراع مع إيران.
ما المقصود بـ«هلوسة الذكاء الاصطناعي»؟
تحدث هلوسة الذكاء الاصطناعي عندما ينتج النموذج معلومات أو حقائق أو أسماء أو قوائم أو استشهادات تبدو دقيقة وموثوقة، لكنها في الحقيقة غير صحيحة أو لا تستند إلى أدلة كافية.
وتكمن خطورة هذه الظاهرة في أن النص الذي ينتجه النموذج قد يكون منظمًا وسلسًا ومقنعًا، رغم أن المعلومات الأساسية الواردة فيه لم تخضع للتحقق من مصادرها الأصلية.
مخاطر استخدام الذكاء الاصطناعي في عمليات الاستهداف
تأتي الواقعة المزعومة في الوقت الذي يدفع فيه البنتاغون باتجاه توسيع استخدام تقنيات الذكاء الاصطناعي لتسريع ما يعرف بـ«سلسلة الاستهداف»، وهي مجموعة الخطوات التي تبدأ برصد الهدف وجمع المعلومات عنه، وتمتد إلى اتخاذ القرار وتنفيذ العملية.
وتصبح أخطاء الذكاء الاصطناعي أكثر خطورة في هذا السياق بسبب السرعة التي يمكن أن تنتقل بها المعلومات داخل سلسلة القيادة، إذ قد تصل معلومة غير صحيحة إلى مستويات متقدمة من اتخاذ القرار قبل أن تتاح فرصة كافية لمراجعتها والتحقق منها.
وحذر جيك ستيكلر من مؤسسة GovAI من أهمية إدراك أفراد القوات المسلحة لمستوى عدم اليقين الملازم لنماذج اللغة الكبيرة، خاصة عند استخدامها في مهام تتطلب دقة عالية.
وتسلط هذه الواقعة الضوء على مخاطر الاعتماد غير المدقق على الذكاء الاصطناعي في القرارات الحساسة، سواء داخل المؤسسات العسكرية أو الحكومية أو الشركات ووسائل الإعلام.
ورغم قدرة أدوات الذكاء الاصطناعي على إعداد المسودات وتحليل كميات كبيرة من المعلومات بسرعة، فإن استخدامها في القرارات عالية المخاطر يتطلب مراجعة بشرية والعودة إلى الأدلة والمصادر الأولية قبل اعتماد أي معلومة أو اتخاذ قرار بناءً عليها.
