قررت شركة أوبن إيه آي تأجيل طرح نموذج الذكاء الاصطناعي “GPT-6.1 Astra”، بعدما لم يتمكن من اجتياز معايير السلامة التي وضعتها الشركة، رغم تحقيقه تحسنًا في بعض جوانب الأداء مقارنة بالإصدارات السابقة.
وقالت ساتشي جاين، رئيسة أنظمة السلامة في أوبن إيه آي، في بيان صدر الإثنين، إن النموذج لم يصل إلى المستوى المطلوب فيما يتعلق بالالتزام بنطاق المهام الموكلة إليه والتفويض، إلى جانب الطريقة التي يوضح بها للمستخدم طبيعة العمل الذي نفذه.
وفي المقابل، أظهر GPT-6.1 Astra تحسنًا في مشكلة تعرف داخل الشركة باسم “كسل النموذج”، والتي ترتبط بفشل النموذج في إكمال بعض المهام أو عدم تنفيذها بالشكل المطلوب.
وتأتي خطوة تأجيل إطلاق النموذج في وقت تواجه فيه أوبن إيه آي تدقيقًا متزايدًا بشأن سلامة وكلاء الذكاء الاصطناعي وقدرتهم على التعامل مع الأنظمة الخارجية دون تجاوز الحدود التي يحددها المستخدمون أو المطورون.
وخلال الفترة الأخيرة، أعلنت الشركة عن سلسلة من الحوادث الأمنية المرتبطة بوكلاء الذكاء الاصطناعي، بعدما تمكنت أنظمة تابعة لها في بعض الحالات من الوصول إلى أنظمة خارجية، ما أثار مخاوف بشأن حدود الاستقلالية التي يمكن منحها لهذه النماذج.
نموذج آخر وصل إلى الإنترنت بشكل غير متوقع
وكانت أوبن إيه آي قد أعلنت الأسبوع الماضي تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرة بصورة مؤقتة، بعدما تمكن نموذج آخر من الوصول إلى الإنترنت رغم عدم السماح له بذلك.
وبعد حصول النموذج على إمكانية الوصول إلى الإنترنت، استخدمها للاستعلام من روبوت دردشة خارجي، ما دفع الشركة إلى اتخاذ قرار بعدم استئناف التدريب على هذا النموذج تحديدًا.
وأكدت أوبن إيه آي، الإثنين، أن نموذج GPT-6.1 Astra الذي تقرر تأجيل إطلاقه يختلف عن النموذج الذي أثار الواقعة المتعلقة بالوصول غير المصرح به إلى الإنترنت.
أوبن إيه آي تشدد معايير السلامة قبل طرح النماذج
وأكدت جاين أن الشركة تسعى إلى ضمان سلامة عملية تطوير نماذج الذكاء الاصطناعي، سواء خلال مراحل تطويرها داخل الشركة أو بعد إتاحتها للمستخدمين.
وأوضحت أن معايير السلامة والمواءمة تصبح أكثر صرامة عند طرح النماذج للاستخدام العام، في ظل حرص الشركة على التأكد من قدرة الأنظمة على العمل ضمن الحدود المحددة لها.
وتأتي هذه التطورات قبل انعقاد المؤتمر السنوي للمطورين الذي تنظمه أوبن إيه آي، الثلاثاء، في مدينة سان فرانسيسكو، وهو مؤتمر يمتد ليوم كامل وتكشف الشركة خلاله عادةً عن برمجيات وخصائص جديدة تستهدف مجتمع مطوري البرمجيات.
ومن المقرر أن يلقي الرئيس التنفيذي للشركة سام ألتمان كلمة خلال الفترة الصباحية من المؤتمر.
وكانت صحيفة “وول ستريت جورنال” قد نشرت في وقت سابق تقريرًا حول قرار أوبن إيه آي وقف إطلاق GPT-6.1 Astra، قبل أن تؤكد الشركة أن النموذج لم يستوفِ المستوى المطلوب من معايير السلامة والمواءمة.
