اقتصاد وتكنولوجيا

دراسة تكشف أخطاء خطيرة لنماذج الذكاء الاصطناعي في المحاكاة العسكرية.. مدنيون وسيارات إسعاف ضمن الأهداف المحتملة

كشفت دراسة أجرتها شركة تقييم الذكاء الاصطناعي «Vals AI» عن إخفاقات في أداء عدد من نماذج الذكاء الاصطناعي المتقدمة خلال اختبارات لمحاكاة سيناريوهات عسكرية، إذ أظهرت النتائج أن بعض هذه النماذج صنّفت مدنيين وسيارات إسعاف وجنودًا مستسلمين باعتبارهم أهدافًا محتملة، رغم أهمية التمييز بين الأهداف العسكرية والأشخاص والمنشآت المحمية.

ونُشرت الدراسة يوم الثلاثاء 17 نوفمبر 2026، وأظهرت تفاوتًا في أداء النماذج التي طورتها ثماني شركات، إلا أن الأخطاء لم تقتصر على النماذج الأقل أداءً، بل ظهرت أيضًا لدى بعض النماذج التي حققت نتائج متقدمة في الاختبارات، وفقًا لما نقلته وكالة «بلومبرج».

اختبارات تكشف ضعف ضوابط السلامة في السياقات العسكرية

اعتمد الباحثون في دراستهم على صور حقيقية وأخرى مولّدة بالذكاء الاصطناعي، واستخدموها في مهام تحاكي عمليات الرصد باستخدام الطائرات المسيّرة، إلى جانب تحليل صور الأقمار الصناعية.

وهدفت الاختبارات إلى معرفة كيفية تعامل النماذج مع المعلومات البصرية في مواقف عسكرية، ومدى قدرتها على التمييز بين الأهداف العسكرية والعناصر المدنية التي لا ينبغي تصنيفها أهدافًا للهجوم.

وأشار الباحثون إلى أن أنظمة فلترة السلامة لم تمنع أيًا من الطلبات التي قدموها خلال التجارب، كما لاحظوا أن صياغة المهمة في صورة لعبة أو سيناريو ترفيهي أدت في كثير من الحالات إلى تجاوز حالات الرفض التي قد تظهر عند تقديم الطلب بصورة مباشرة.

وتثير هذه النتيجة تساؤلات بشأن قدرة أنظمة الحماية المدمجة في نماذج الذكاء الاصطناعي على التعامل مع الطلبات الحساسة، خاصة عندما تُقدَّم في سياقات محاكاة أو ألعاب بدلًا من وصفها بأنها مهام عسكرية حقيقية.

نموذج Claude يختار مدرسة إيرانية هدفًا في أغلب التجارب

ومن أبرز الأمثلة التي وردت في الدراسة اختبار استخدم فيه الباحثون صورًا لمدرسة تقع بالقرب من منشأة عسكرية في مدينة ميناب الإيرانية، بهدف تقييم كيفية تصنيف النموذج للموقع ضمن سيناريو عسكري.

وأظهرت النتائج أن نموذج «Claude Opus 5.5» اختار المدرسة باعتبارها هدفًا في 69% من التجارب التي قُدمت بصيغتها العادية، وارتفعت النسبة إلى 72% عندما جرى تقديم السيناريو باعتباره لعبة.

وأُجري الاختبار من خلال 32 تجربة لكل حالة، ما أظهر استمرار المشكلة حتى مع تغيير طريقة عرض المهمة، بل إن وصفها بأنها لعبة لم يؤدِّ إلى تحسين قدرة النموذج على تجنب تصنيف المدرسة هدفًا.

وتبرز هذه النتائج خطورة الاعتماد على مخرجات النماذج دون مراجعة بشرية دقيقة، خصوصًا في التطبيقات التي تتعامل مع صور ومعلومات قد تُستخدم في تحديد الأهداف العسكرية.

الدراسة لا تقيس أداء الأسلحة الفعلية

ورغم النتائج التي توصلت إليها الدراسة، أوضح الباحثون أن نطاق الاختبارات كان محدودًا بمحاكاة السيناريوهات، ولم يشمل تقييم أداء النماذج داخل أسلحة مستخدمة فعليًا، كما لم يختبروا كيفية عملها ضمن الإجراءات العسكرية الحقيقية للجيش الأمريكي.

وأشاروا إلى أن الخطر الأكثر قربًا قد لا يتمثل في تشغيل نماذج الذكاء الاصطناعي مباشرة داخل الطائرات المسيّرة أو أنظمة الأسلحة، بل في استخدام مخرجاتها لتصنيف تسجيلات المعارك وإعداد البيانات التي تُستخدم لاحقًا في تدريب أنظمة الاستهداف.

ويعني ذلك أن الأخطاء التي تنتجها النماذج خلال تحليل الصور أو تحديد طبيعة الأهداف قد تنتقل إلى مراحل أخرى من تطوير الأنظمة العسكرية، إذا استُخدمت هذه المخرجات دون تدقيق ومراجعة كافيين.

OpenAI وأنثروبيك تعلّقان على نتائج الدراسة

وفي ردها على ما ورد في التقرير، ذكرت شركة «OpenAI» أنها تعمل على تطوير تحديثات لسلوك نماذجها، تشمل كيفية تعاملها مع الطلبات المتعلقة بالطائرات المسيّرة والبرمجيات المرتبطة بها، حتى عندما تُقدَّم هذه الطلبات ضمن سياقات الألعاب أو المحاكاة.

من جانبها، قالت شركة «أنثروبيك» لموقع «تك كرانش» إن النتائج التي كشفت عنها الدراسة غير مقبولة، موضحة أنها تعمل على تطوير ضمانات إضافية للحد من هذه الأخطاء، إلى جانب توسيع نطاق الاختبارات التي تجريها على نماذجها.

وتعكس هذه التصريحات اهتمام الشركات المطورة للذكاء الاصطناعي بتعزيز ضوابط السلامة، خاصة مع تزايد استخدام النماذج المتقدمة في مجالات حساسة تتطلب دقة عالية في التعامل مع المعلومات والقرارات.

اختبارات سابقة تكشف قدرات الذكاء الاصطناعي في المجالات العسكرية

وتأتي الدراسة الجديدة بعد تقييمات نشرتها شركة «أنثروبيك» في سبتمبر الماضي، تناولت قدرات نماذج الذكاء الاصطناعي على دعم المهام الاستخباراتية والمساعدة في تطوير الأسلحة التقليدية.

وأوضحت الشركة في تلك التقييمات أن بعض المهام التي يمكن أن تدعمها النماذج كانت تتطلب في السابق خبراء يمتلكون تدريبًا متخصصًا وخبرات مهنية متقدمة.

وتسلط هذه التطورات الضوء على أهمية عدم الاكتفاء بقياس القدرات التقنية لنماذج الذكاء الاصطناعي ومدى كفاءتها في تنفيذ المهام، بل ضرورة تقييم المخاطر المحتملة لإساءة استخدامها، ووضع ضوابط تضمن عدم تحول أخطائها إلى قرارات قد تهدد المدنيين أو تؤثر في سلامتهم.

مقالات ذات صلة

زر الذهاب إلى الأعلى