تتزايد المخاوف داخل أوساط الذكاء الاصطناعي من أن المنافسة المحتدمة بين أكبر شركات التكنولوجيا لتطوير أنظمة أكثر قوة قد تدفع إلى تقليص إجراءات السلامة، في وقت تتطور فيه قدرات الذكاء الاصطناعي بوتيرة أسرع مما توقعه كثير من الباحثين.
ونقلت صحيفة «فاينانشال تايمز» عن أكثر من 20 باحثاً ومستثمراً وأكاديمياً وشخصية عاملة في مجال السياسات أن تقنيات كانت تبدو قبل سنوات بعيدة المنال بدأت تظهر بوتيرة متسارعة، بينما تخوض الشركات المطورة لها سباقاً تجارياً شرساً.
وقال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، إن المنافسة بين الشركات تدفعها إلى اتخاذ اختصارات فيما يتعلق بإجراءات السلامة.
تحذيرات من مخاطر تتجاوز العقد المقبل
عاد الجدل حول مخاطر الذكاء الاصطناعي إلى الواجهة بعد استقالة الباحث في شركة «أنثروبيك»، جاكوب كوكسون، الذي حذر من أن بعض العاملين على تطوير هذه التكنولوجيا يعتقدون فعلاً أنها قد تتسبب في مقتل البشر جميعاً بحلول نهاية العقد.
كما كان إيفان هوبرينغر، رئيس فريق علوم المواءمة واختبارات الاختراق في «أنثروبيك»، ضمن مجموعة من زملائه الذين قدروا أن احتمال وقوع كارثة تؤدي إلى انقراض جماعي خلال العقد المقبل يتجاوز 10%.
وبعد ذلك بيوم، قال بول كريستيانو، المتخصص في سلامة الذكاء الاصطناعي والذي انضم حديثاً إلى مجلس إدارة مؤسسة «أوبن إيه آي»، إن غياب الضمانات الأكثر صرامة قد يؤدي إلى وفاة معظم البشر.
وكانت «أوبن إيه آي» و«أنثروبيك» قد تأسستا في الأصل كمختبرين يركزان على تطوير ذكاء اصطناعي قوي مع اهتمام كبير بقضايا السلامة، إلا أن الشركتين تخلتا تدريجياً عن بعض الالتزامات السابقة، بحسب التقرير، في ظل اشتداد المنافسة في القطاع.
ويرى مؤيدو تطوير الذكاء الاصطناعي أن الجهات التي تبني هذه الأنظمة هي الأكثر قدرة على فهم مخاطرها وإدارتها، بينما يحذر باحثون من أن اكتشاف بعض العواقب قد يصبح أكثر صعوبة عندما تصل التكنولوجيا إلى مراحل متقدمة من التطوير.
وقال جيفري إيرفينغ، الذي عمل سابقاً في «أوبن إيه آي» و«غوغل ديب مايند» ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، إن التركيز على المشكلات الحالية قد يجعل من السهل تجاهل المخاطر المستقبلية.
«أسراب» من وكلاء الذكاء الاصطناعي
من أبرز مصادر القلق التطور السريع لوكلاء الذكاء الاصطناعي، الذين أصبح بإمكانهم العمل بصورة مستقلة لفترات أطول، والتعاون ضمن مجموعات أو «أسراب»، إلى جانب ظهور قدرات متقدمة في مجال القرصنة.
وفي الأشهر الأخيرة، حققت نماذج الذكاء الاصطناعي تقدماً في مجالات العلوم والرياضيات، بما في ذلك مشكلات ظل تحقيق تقدم فيها صعباً لعقود.
وتعمل «أوبن إيه آي» و«أنثروبيك» أيضاً على ما يعرف بـ«التحسين الذاتي التكراري»، حيث تستطيع الأنظمة المساعدة في تحسين قدراتها مع تراجع مستوى التدخل البشري.
وفي يوليو الماضي، وقع أكثر من 1200 موظف من «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا» على دعوة للحكومة الأمريكية لدعم تنسيق دولي يهدف إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
لكن التطوير لم يتباطأ، بل واصلت شركات التكنولوجيا ضخ عشرات المليارات من الدولارات في تطوير نماذج أكثر قوة.
وفي الوقت نفسه، تستعد «أوبن إيه آي» و«أنثروبيك» لاحتمال طرح أسهمهما للاكتتاب العام، وهو ما يضع المستثمرين أمام سؤال صعب بشأن كيفية تقييم شركات تقر بأن تقنياتها قد تحمل مخاطر وجودية.
التخطيط والتضليل والابتزاز
تتمثل إحدى أكبر القضايا في ارتفاع مستوى استقلالية وكلاء الذكاء الاصطناعي، الذين يستطيعون التفكير والتخطيط وتنفيذ مهام معقدة لفترات طويلة وبإشراف بشري محدود.
وأظهرت بعض الاختبارات سلوكيات تضمنت التخطيط والتضليل وحتى الابتزاز، كما أشارت تقييمات إلى أن بعض النماذج حاولت تجنب إيقاف تشغيلها.
ومن بين المخاطر الأخرى ما يسمى «اختراق المكافأة»، حيث يجد النظام طريقة غير مقصودة لتحقيق الهدف المطلوب منه.
وظهر أحد الأمثلة اللافتة خلال اختبارات أجرتها «أوبن إيه آي» على نموذج لم يُطرح بعد، عندما تمكن وكلاء للذكاء الاصطناعي من اختراق مستودع النماذج «Hugging Face».
وخلص تحليل لاحق للحادثة إلى أن أكثر من ألف وكيل ذكاء اصطناعي نسقوا فيما بينهم للغش في اختبار للأمن السيبراني، وتبادلوا المعلومات عبر لوحة رسائل ووزعوا المهام بينهم.
وبحسب التحليل، قام بعض الوكلاء بتقديم تضحيات لتحقيق الهدف الجماعي، كما تلاعبت الأنظمة بالسجلات وحاولت إخفاء عملية الغش، رغم أن بعض الوكلاء أشاروا إلى أن هذا السلوك غير أخلاقي.
وقال يوشوا بنجيو، عالم الكمبيوتر وأحد أبرز الباحثين الذين ساهموا في تأسيس مجال الذكاء الاصطناعي الحديث، إن الأمر يصبح أكثر خطورة عندما لا يكون للنظام هدفه الخاص فحسب، وإنما يتضمن هذا الهدف تنفيذ نشاط إجرامي في العالم الحقيقي.
وحذر بنجيو من احتمال أن تستنتج أنظمة أكثر قدرة مستقبلاً أن خداع البشر أو الاختباء منهم أو حتى السيطرة عليهم يمثل وسيلة لتحقيق أهدافها.
مخاوف من عدم مواكبة إجراءات السلامة
يتزايد القلق أيضاً بين العاملين في القطاع من أن إجراءات السلامة لا تتطور بالسرعة نفسها التي تتطور بها النماذج.
وبحسب التقرير، قال مصدر داخل «أوبن إيه آي» إن سام ألتمان أبلغ الموظفين هذا الأسبوع بأن الشركة مستعدة للتعاون في هذا المجال، وتأمل أن تتخذ المختبرات المنافسة خطوة مماثلة.
لكن أشخاصاً مقربين من شركات الذكاء الاصطناعي قالوا إن المختبرات الكبرى تخشى أن يُنظر إلى أي تعاون رسمي بشأن السلامة باعتباره نوعاً من التواطؤ، فضلاً عن احتمال تعارضه مع قوانين مكافحة الاحتكار.
كما قد يمثل انعدام الثقة الشخصي بين بعض قادة الشركات، ومن بينهم داريو أمودي من «أنثروبيك» وسام ألتمان من «أوبن إيه آي»، عقبة أمام التعاون.
لماذا يصعب على الحكومات التدخل؟
رغم تصاعد التحذيرات، لا تبدو الحكومات مستعدة حتى الآن لاتخاذ خطوات واسعة للحد من سرعة تطوير الذكاء الاصطناعي.
وبحسب مصادر في واشنطن نقلت عنها «فاينانشال تايمز»، من غير المرجح اتخاذ إجراء أمريكي كبير قبل انتخابات التجديد النصفي المقررة في نوفمبر.
وفي المقابل، استغل مشرعون مؤيدون لتنظيم القطاع استقالة كوكسون لفتح نقاش جديد حول المخاطر، ومن المقرر أن يجمع السيناتور بيرني ساندرز أعضاء من مجلس الشيوخ لمناقشة ما وصفه بـ«المخاطر الاستثنائية» التي يمثلها الذكاء الاصطناعي.
ويرى منتقدون أن شركات الذكاء الاصطناعي قد تكون لديها أيضاً مصلحة في التركيز على المخاطر الوجودية، إذ يمكن أن يؤدي فرض معايير سلامة مرتفعة ومكلفة إلى زيادة صعوبة المنافسة أمام الشركات الأصغر.
وقال المستثمر ومستشار التكنولوجيا في إدارة ترامب، ديفيد ساكس، في مقابلة مع «فوكس نيوز»، إن تصريحات كوكسون صُممت، من وجهة نظره، لإثارة مخاوف الجمهور ودفع المشرعين نحو تنظيم أكثر صرامة للذكاء الاصطناعي.
وفي المقابل، قال موظف سابق في «أنثروبيك» إن التركيز على مشكلة «عدم المواءمة» قد يحرف الانتباه عن مخاطر أخرى يرى أنها أكثر إلحاحاً، وعلى رأسها تزايد تركّز القوة التكنولوجية في أيدي عدد محدود من الشركات والأفراد.
سيناريوهات محتملة لـ«يوم القيامة» بالذكاء الاصطناعي
طرح باحثون عدداً من السيناريوهات النظرية التي قد تؤدي فيها أنظمة ذكاء اصطناعي فائقة القدرة إلى تهديد وجود البشر، خصوصاً إذا اعتبرت الأنظمة أن البشر يمثلون عائقاً أمام تحقيق أهدافها.
السيطرة على مفتاح الإيقاف:
أظهرت حادثة «Hugging Face» كيف يمكن لسرب من وكلاء الذكاء الاصطناعي التعامل مع بنية تحتية حاسوبية وتنفيذ عمليات منسقة. وفي سيناريو أكثر تطرفاً، قد تحاول أنظمة متقدمة تمتلك مهارات قرصنة السيطرة على مراكز بيانات أو نسخ نفسها عبر مواقع مختلفة لتجنب إيقافها.
السيطرة على البنية التحتية
يمكن لأنظمة متقدمة، في سيناريو افتراضي، محاولة السيطرة على شبكات الطاقة والاتصالات والأنظمة المالية والاستحواذ على الموارد اللازمة لمقاومة تدخل البشر.
هجوم بيولوجي
طرحت دراسة «AI 2027» سيناريو افتراضياً تستخدم فيه منظومة فائقة الذكاء أسلحة بيولوجية للقضاء على البشر الذين يشغلون مساحة وموارد يمكن أن تحتاج إليها منشآت إنتاج الرقائق والروبوتات والطاقة.
إشعال حرب
قد تستغل أنظمة الذكاء الاصطناعي المتقدمة قدرتها على تقليد الأشخاص وانتحال هوياتهم لخداع البشر أو التلاعب بهم، بما قد يؤدي في سيناريوهات قصوى إلى إشعال صراع عسكري أو اضطرابات سياسية.
ومع ذلك، تظل الطريقة التي يمكن أن يؤدي بها ذكاء اصطناعي يتفوق على البشر إلى انقراض البشرية غير مؤكدة إلى حد كبير.
ويشبه بعض الباحثين المشكلة بمواجهة لاعب شطرنج عادي لأستاذ كبير؛ فقد لا يعرف اللاعب بالضبط أي نقلة ستؤدي إلى هزيمته، لكنه يدرك أنه يواجه خصماً يتفوق عليه بشكل كبير.
في المقابل، يرى المشككون أن بعض هذه التحذيرات تبالغ في تقدير الأضرار المحتملة للذكاء الاصطناعي، بينما تقلل من الفوائد التي يمكن أن تقدمها هذه التكنولوجيا.
الهجمات السيبرانية والتهديدات البيولوجية الأكثر واقعية
يرتبط اثنان من أبرز المخاوف الحالية بالهجمات السيبرانية والمجال البيولوجي.
وتُستخدم نماذج الذكاء الاصطناعي بالفعل في تنفيذ أو دعم هجمات سيبرانية ضارة، بما في ذلك عمليات يُشتبه في ارتباطها بجهات من الصين وإيران وروسيا، وفقاً لشركات ذكاء اصطناعي أمريكية.
وفي المجال البيولوجي، يخشى الباحثون من أن يؤدي الذكاء الاصطناعي إلى خفض مستوى الخبرة المطلوبة لتصميم أسلحة بيولوجية أو فيروسات خطرة.
وقالت «أنثروبيك» في تقرير صدر الخميس إنها منعت نشاطاً كان يمكن أن يؤدي إلى تطوير أسلحة بيولوجية باستخدام الذكاء الاصطناعي.
وفي أغسطس من العام الجاري، استخدم باحثون في الولايات المتحدة الذكاء الاصطناعي للمرة الأولى لتصميم وإنشاء فيروسات غير معروفة في الطبيعة، بحسب التقرير.
لكن تحويل تصميم ينتجه الذكاء الاصطناعي إلى سلاح فعلي لا يزال يتطلب معدات وخبرات متخصصة قد لا تكون متاحة للعديد من الجهات الخبيثة.
ولهذا يحذر بعض الباحثين من أن التركيز على سيناريوهات انقراض البشرية قد يحجب مخاطر أخرى أقرب وأكثر واقعية.
وقال تريستان هاريس، المؤسس المشارك لمركز التكنولوجيا الإنسانية والموظف السابق في «غوغل»، إن السؤال الأهم ليس بالضرورة ما إذا كانت التكنولوجيا ستؤدي إلى القضاء على البشرية، وإنما ما إذا كان العالم يسير في اتجاه يصعب التحكم فيه.
وتعكس هذه التحذيرات اتساع النقاش حول مستقبل الذكاء الاصطناعي، بين من يركزون على فوائده وإمكاناته العلمية والاقتصادية، ومن يرون أن تسارع قدراته واستقلالية أنظمته يفرضان وضع ضوابط أكثر صرامة قبل أن تصبح إدارة المخاطر أكثر صعوبة.
