اقتصاد وتكنولوجيا

تفاهم أميركي صيني لضبط الذكاء الاصطناعي العسكري.. هل يبقى قرار القتل بيد الإنسان؟

أثار التفاهم الأميركي الصيني بشأن ضرورة إبقاء الإنسان مشاركًا في القرارات العسكرية التي تعتمد على الذكاء الاصطناعي تساؤلات حول مدى قدرة الدول على فرض رقابة حقيقية على هذه التكنولوجيا في ساحات القتال، خاصة مع التطور المتسارع للأنظمة القادرة على رصد الأهداف وتحليل التهديدات خلال ثوانٍ.

ورغم أهمية هذا التفاهم، فإن غياب التفاصيل المتعلقة بآليات تنفيذه يطرح سؤالًا جوهريًا: هل تكفي موافقة الإنسان النهائية لضمان السيطرة على قرارات الآلة؟

تفاهم بين ترامب وشي بشأن القرارات العسكرية

جاء الإعلان عن التفاهم على لسان وزير الخزانة الأميركي سكوت بيسنت، الذي أوضح أن الرئيس الأميركي دونالد ترامب ونظيره الصيني شي جين بينغ اتفقا على أهمية وجود العنصر البشري في القرارات العسكرية المرتبطة بالذكاء الاصطناعي، وعدم السماح للأنظمة المتطورة باتخاذ قرارات مستقلة بشأن العمليات العسكرية الكبرى.

لكن التصريحات لم تكشف عن وجود اتفاق مكتوب أو تعريف واضح لطبيعة العمليات المشمولة، كما لم تتضمن آليات محددة لمراقبة الالتزام بهذا التفاهم.

الذكاء الاصطناعي يغير طبيعة الحروب

لم يعد دور الذكاء الاصطناعي في المجال العسكري مقتصرًا على تحليل صور الأقمار الصناعية وجمع المعلومات الاستخباراتية، بل أصبح يشمل تحديد الأهداف المحتملة، وتقييم التهديدات، وتوجيه الطائرات المسيّرة، ومساعدة القيادات العسكرية في اتخاذ القرارات.

وتكمن قوة هذه الأنظمة في قدرتها على معالجة كميات ضخمة من البيانات بسرعة تفوق الإمكانات البشرية، الأمر الذي يقلص الوقت الفاصل بين اكتشاف التهديد والاستجابة له.

لكن السرعة نفسها قد تتحول إلى مصدر خطر، إذ تقلل الوقت المتاح للتحقق من دقة المعلومات، وقد يؤدي تصنيف خاطئ لأحد الأهداف أو الاعتماد على بيانات غير مكتملة إلى استهداف مدنيين أو التسبب في تصعيد عسكري غير مقصود.

وتزداد احتمالات التصعيد عندما تتفاعل أنظمة آلية متنافسة، بحيث تؤدي الاستجابات المتبادلة إلى سلسلة من القرارات يصعب السيطرة على نتائجها.

هل تعني الموافقة البشرية سيطرة حقيقية؟

يفرق خبراء التحكم في الأسلحة بين مجرد مشاركة الإنسان في القرار وامتلاكه سلطة فعلية للتحكم فيه.

فقد يتولى نظام الذكاء الاصطناعي جمع البيانات وتحليلها، ثم اختيار الهدف وتحديد توقيت الهجوم، قبل عرض التوصية على ضابط بشري للموافقة على التنفيذ.

وفي مثل هذه الحالة، قد تصبح الموافقة مجرد إجراء شكلي، خصوصًا إذا لم يكن لدى الضابط الوقت الكافي أو المعلومات المستقلة التي تسمح له بمراجعة قرار النظام.

وتُعرف هذه المشكلة باسم «الانحياز للأتمتة»، وهي ميل الإنسان إلى الثقة في توصيات الأنظمة التقنية والاعتماد عليها، حتى عندما تكون نتائجها غير دقيقة.

لذلك، لا تقتصر السيطرة البشرية الفعلية على الضغط على زر التنفيذ، بل تتطلب فهم أسباب اختيار الهدف، وتقييم المخاطر المحتملة، والقدرة على رفض توصية النظام أو إلغاء العملية بالكامل.

كما تستلزم تحديد المهام التي يمكن تفويضها للأنظمة الآلية، وضمان إمكانية إيقافها عند صدور قرارات غير متوقعة.

سباق التسلح والمسؤولية القانونية

يأتي التفاهم الأميركي الصيني في وقت تتزايد فيه المنافسة الدولية لدمج الذكاء الاصطناعي في أنظمة الدفاع والاستخبارات والقيادة العسكرية.

وتواجه الدول معادلة معقدة؛ ففرض قيود صارمة على استخدام هذه التكنولوجيا قد يمنح الخصوم ميزة في سرعة الاستجابة، بينما قد يؤدي غياب الضوابط إلى تسارع سباق تطوير أسلحة أكثر استقلالية.

وفي هذا السياق، تناقش الأمم المتحدة منذ سنوات مستقبل الأسلحة الفتاكة ذاتية التشغيل، بينما تدعو اللجنة الدولية للصليب الأحمر إلى وضع قواعد ملزمة تحظر الأنظمة التي يصعب التنبؤ بسلوكها أو التحكم في آثارها، مع فرض قيود على أنواع أخرى منها.

وتبرز أيضًا إشكالية تحديد المسؤولية القانونية عندما تتسبب أنظمة الذكاء الاصطناعي في سقوط ضحايا مدنيين.

فالقانون الدولي الإنساني يفرض على أطراف النزاعات الالتزام بالتمييز بين المدنيين والمقاتلين، ومراعاة التناسب، واتخاذ الاحتياطات اللازمة عند تنفيذ الهجمات، ولا يؤدي استخدام التكنولوجيا المتقدمة إلى إعفاء الدول أو القادة العسكريين من هذه الالتزامات.

غير أن تحديد المسؤولية يصبح أكثر تعقيدًا عندما يعتمد القرار العسكري على توصيات أنظمة يصعب تفسير آليات عملها.

تفاهم سياسي أم قواعد دولية ملزمة؟

يمثل الإعلان الأميركي الصيني اعترافًا مشتركًا بأهمية الاحتفاظ بالسيطرة البشرية على استخدام القوة العسكرية، لكنه لا يشكل، وفق التفاصيل المعلنة، اتفاقًا دوليًا ملزمًا.

وتتوقف فاعلية هذا التفاهم على وضع تعريف واضح للقرارات التي يجب أن تظل بيد الإنسان، وإقرار معايير تضمن أن تكون الرقابة البشرية حقيقية وليست مجرد موافقة شكلية.

فالتحدي الأساسي لم يعد في قدرة الآلة على اتخاذ القرار بسرعة، بل في ضمان ألا تتحول هذه السرعة إلى سلطة مستقلة على حياة البشر ومصير الحروب.

مقالات ذات صلة

زر الذهاب إلى الأعلى