أعلن باحث في شركة أنثروبيك استقالته من العمل، محذرًا من أن شركات الذكاء الاصطناعي الكبرى، وفي مقدمتها أنثروبيك وأوبن إيه آي، لا تتعامل بالقدر الكافي من المسؤولية مع المخاطر المرتبطة بالتطور المتسارع لهذه التكنولوجيا.
وقال جاكوب كوكسون، الذي أوضح أنه أمضى نحو ثلاث سنوات في إجراء أبحاث لدى كل من أنثروبيك وأوبن إيه آي، في منشورات عبر منصة «إكس» يوم الثلاثاء، إن الشركتين أصبحتا تركزان بدرجة أكبر على التفوق على بعضهما البعض وعلى المنافسين حول العالم في سباق تطوير النماذج الأكثر تقدمًا، بدلًا من إعطاء الأولوية للسلامة.
نماذج تتجاوز الاختبارات وتصل إلى أنظمة حقيقية
وتأتي استقالة كوكسون في أعقاب سلسلة من التطورات التي أثارت مخاوف بشأن قدرة البشر على التحكم في أنظمة الذكاء الاصطناعي المتقدمة.
فخلال هذا الصيف، أعلنت كل من أوبن إيه آي وأنثروبيك، بفارق أسبوع تقريبًا، أن نماذجهما تمكنت من تجاوز بيئات الاختبار والوصول دون تصريح إلى أنظمة حاسوب حقيقية.
وأثارت هذه الإعلانات مخاوف من احتمال خروج النماذج عن السلوك المتوقع منها، واستخدام قدراتها لتنفيذ مهام أكثر خطورة أو ضررًا.
وقالت الشركتان في ذلك الوقت إنهما ستعلقان بعض التقييمات مؤقتًا، إلى حين إضافة مزيد من إجراءات المراقبة والضوابط.
تحذيرات من سباق قد يفلت عن السيطرة
ومع استمرار التطور السريع للذكاء الاصطناعي، تتزايد الدعوات في الولايات المتحدة وخارجها إلى التعامل مع هذه التكنولوجيا بحذر أكبر.
ودعا فولكر تورك، مفوض الأمم المتحدة السامي لحقوق الإنسان، الدول هذا الأسبوع إلى وضع «ضمانات قوية بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان».
من جانبه، حذر كوكسون من خطورة التقليل من قدرات الأنظمة المستقبلية، مؤكدًا أن شركات الذكاء الاصطناعي تتجه بسرعة نحو تطوير ما وصفه بـ«الذكاء الخارق ذاتي التحسين».
وقال إن أنثروبيك وأوبن إيه آي «تتسابقان مباشرة نحو الذكاء الخارق ذاتي التحسين وتغامران بحياتنا»، مضيفًا أن بعض العاملين في قطاع تطوير الذكاء الاصطناعي يعتقدون أن هذه التكنولوجيا قد تشكل تهديدًا لحياة البشر بحلول نهاية هذا العقد.
«لا تستهينوا بقوة التكنولوجيا»
وشدد الباحث المستقيل على أن التطور الحالي في الذكاء الاصطناعي لا ينبغي التعامل معه باعتباره مجرد تقدم تقني محدود.
وحذر من أن هذه الأنظمة قد تصبح قريبًا قادرة على تنفيذ عمليات معقدة للغاية، بما في ذلك اختراق الأنظمة، وإحداث تغييرات واسعة في مجالات مختلفة خلال فترات زمنية قصيرة، فضلًا عن امتلاك قدرات حقيقية للوصول إلى القوة والموارد.
وأضاف أن التطور في هذه المجالات أصبح واضحًا بالفعل، مؤكدًا أن مسار التقدم الحالي لا يظهر مؤشرات على التباطؤ.
وتعيد استقالة كوكسون بذلك إلى الواجهة الجدل المتصاعد داخل صناعة الذكاء الاصطناعي وخارجها حول كيفية الموازنة بين سباق تطوير نماذج أكثر قوة وبين وضع ضوابط كافية لضمان بقائها تحت السيطرة البشرية.
