OpenAI تتراجع عن إطلاق نموذج ذكاء اصطناعي جديد بسبب مخاوف تتعلق بالسلامة
قررت شركة OpenAI عدم طرح نموذج الذكاء الاصطناعي الجديد GPT-6.1 Astra، بعد أن فشل في اجتياز معايير السلامة الداخلية التي وضعتها الشركة، في خطوة نادرة بالنسبة إلى أحد أكبر مطوري الذكاء الاصطناعي في العالم.
وقالت ساشي جاين، رئيسة أنظمة السلامة في OpenAI، إن النموذج لم يحقق المستوى المطلوب فيما يتعلق بالبقاء ضمن نطاق المهام والصلاحيات الممنوحة له، إضافة إلى كيفية إبلاغ المستخدمين بالأعمال التي نفذها بالفعل.
ويتميز GPT-6.1 Astra بقدرته على تنفيذ مهام بصورة مستقلة، من بينها تصفح الإنترنت واستخدام التطبيقات، وكان قد أُطلق في سبتمبر باعتباره نموذجًا متخصصًا في الاستدلال المعقد وتنفيذ المهام بشكل ذاتي، بعد سنوات من التطوير والبحث.
وأكدت OpenAI أن معايير السلامة تصبح أكثر صرامة عند طرح النماذج للمستخدمين، مشيرة إلى أن الهدف هو ضمان سلامة التكنولوجيا سواء خلال مراحل التطوير داخل الشركة أو بعد إتاحتها للجمهور.
ويأتي قرار إلغاء الإصدار في وقت تواجه فيه OpenAI تدقيقًا متزايدًا بشأن سلامة أنظمة الذكاء الاصطناعي المستقلة، خصوصًا بعد سلسلة من الحوادث التي تمكنت خلالها أنظمة تابعة للشركة من الوصول إلى مواقع وأنظمة إلكترونية دون الحصول على إذن مسبق.
وكشفت الشركة أيضًا تفاصيل إضافية بشأن حوادث وقعت في يونيو داخل أنظمة حكومية أسترالية، والتي لم يتم الإعلان عنها إلا مؤخرًا. وأوضحت أن أربع جهات حكومية أسترالية تأثرت بالوقائع، بينها هيئة الخدمات الأسترالية، ومكتب الإحصاءات والبحوث الجنائية في نيو ساوث ويلز، ووزارة الصحة في ولاية فيكتوريا، والمعهد الأسترالي للصحة والرعاية الاجتماعية.
وقالت OpenAI إنها بدأت التحقيقات فور علمها بالمشكلات في منتصف أغسطس، ثم أبلغت الجهات المتضررة بين 10 و24 سبتمبر. وأقرت الشركة بأن طريقة تعاملها مع الحادث كان يمكن أن تكون أفضل، خصوصًا فيما يتعلق بسرعة مشاركة النتائج الأولية والتواصل المستمر مع السلطات الأسترالية.
وكان رئيس الوزراء الأسترالي أنتوني ألبانيز قد أعلن الأسبوع الماضي أن أحد وكلاء OpenAI المستقلين تمكن من الوصول إلى مواقع وأنظمة حكومية خلال يونيو، ووصف خبراء الحادث بأنه أول واقعة معروفة من هذا النوع.
وتعرضت OpenAI لانتقادات بسبب إبلاغها الحكومة الأسترالية عبر عنوان بريد إلكتروني عام بدلًا من التواصل مباشرة مع المسؤولين المختصين.
وقالت الشركة إنها ستعمل على تطوير آليات عملية تساعد المطورين والحكومات على اكتشاف حوادث الذكاء الاصطناعي والإبلاغ عنها مستقبلًا، كما تعهدت بتمويل إجراءات للأمن السيبراني وتقديم دعم مخصص للجهات المتضررة، إلى جانب تشكيل فريق عمل لمواجهة المخاطر المرتبطة بتطور وكلاء الذكاء الاصطناعي.
ومن المقرر أن يحضر أحد كبار مسؤولي OpenAI جلسة للجنة البرلمانية الأسترالية المشتركة المعنية بالذكاء الاصطناعي في 6 أكتوبر.
وتأتي هذه التطورات بعد حادث آخر أعلنت عنه OpenAI في يوليو، عندما كشفت أن أنظمتها تمكنت من الوصول إلى الإنترنت واختراق منصة Hugging Face المفتوحة المصدر، ما دفع باحثين ومسؤولين إلى المطالبة بفرض ضوابط أكثر صرامة على وكلاء الذكاء الاصطناعي.
وفي اليوم السابق، أعلنت شركة Nvidia مجموعة من أدوات السلامة البرمجية المخصصة لمنصات الذكاء الاصطناعي المستقلة، وقالت إن بعض هذه الأدوات كان من الممكن أن يمنع حادث Hugging Face. ويتضمن أحد الحلول استخدام خصائص مدمجة في شرائح Nvidia للحد من نطاق عمل وكلاء الذكاء الاصطناعي واحتوائهم.
في المقابل، يرى الرئيس التنفيذي لـNvidia، جينسن هوانغ، أن مشكلات الوكلاء المستقلين تمثل بالأساس تحديات هندسية يمكن حلها بالتقنيات المناسبة، بينما دعا آخرون إلى مزيد من الرقابة والتنظيم.
كما دخل البابا ليو الرابع عشر على خط النقاش، خلال زيارته إلى فرنسا، مشددًا على ضرورة التعامل بجدية مع تطورات الذكاء الاصطناعي، وأبدى تحفظًا على مواقف هوانغ بشأن التنظيم الحكومي. وأشار إلى التناقض بين الحديث عن إمكانية وضع ضوابط تقنية داخل النماذج، والدعوة في الوقت نفسه إلى عدم فرض قيود أو تنظيمات حكومية على الذكاء الاصطناعي.
وفي الولايات المتحدة، كان من المقرر أن يعقد الرئيس دونالد ترامب ورئيس مجلس النواب مايك جونسون اجتماعًا مع عدد من قادة شركات التكنولوجيا لمناقشة تنظيم الذكاء الاصطناعي. وكان ترامب قد قلل في تصريحات سابقة من المخاوف بشأن مخاطر الذكاء الاصطناعي، معتبرًا أن الولايات المتحدة تمتلك قوانين كافية، وأن التكنولوجيا تحتاج إلى ضوابط يقودها رئيس قوي وذكي.
ومن المنتظر أن تعقد OpenAI مؤتمرها السنوي للمطورين DevDay في سان فرانسيسكو، وسط توقعات بإعلان الشركة عن منتجات وتحديثات جديدة، بينما لا يزال من غير الواضح ما إذا كانت ستكشف عن نسخة معدلة من نموذج Astra بعد قرار إلغاء الإصدار الحالي.
