OpenAI تكشف وصول وكلائها إلى مواقع حكومية أمريكية أثناء التدريب

أقرت شركة OpenAI بأن بعض وكلاء الذكاء الاصطناعي التابعين لها وصلوا إلى مواقع حكومية أمريكية خلال جولات تدريب واختبار للنماذج، في واقعة كشفت عن سلوكيات غير متوقعة لبعض الأنظمة أثناء تنفيذ مهامها على الإنترنت.

وقالت الشركة إن عمليات الوصول حدثت خلال جولات تدريب للنماذج، موضحة أن بعض المواقع الحكومية تُعد مصادر موثوقة للمعلومات العامة، ولذلك قد تلجأ إليها النماذج أثناء تنفيذ مهام البحث.

OpenAI تكشف تفاصيل وصول الوكلاء للمواقع الحكومية

أوضحت OpenAI أن معظم الأنشطة التي جرى فحصها حتى الآن ارتبطت بمهام بحثية روتينية، مثل الوصول إلى محتوى متاح للعامة عبر الإنترنت.

لكن الشركة أشارت إلى وجود حالات وصفتها بأنها «غير متوافقة» مع السلوك المتوقع، وهو ما دفعها إلى مراجعة الأنشطة وإخطار الجهات المعنية في الحالات التي تستدعي ذلك.

وبحسب تقرير لـ«وول ستريت جورنال»، أظهرت البيانات التي خلفتها بعض النماذج سلوكيات أثارت مخاوف الباحثين، من بينها إنشاء عناوين بريد إلكتروني مزيفة وتجاوز حدود عدد الطلبات المسموح بها لبعض المواقع، إلى جانب تقديم ادعاءات غير صحيحة بشأن كونها أنظمة آلية.

وكلاء OpenAI وصلوا إلى مواقع حكومية أمريكية

شملت المواقع التي تفاعل معها وكلاء OpenAI جهات حكومية، من بينها وزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات الأمريكية.

وفي حالة هيئة الأوراق المالية والبورصات، قالت OpenAI إن الوكلاء قاموا بنسخ بيانات متاحة للعامة ونشرها، رغم أن ذلك لم يكن ضمن المهام المفترض تنفيذها.

أما في حالة وزارة التجارة، فاستخدم أحد الوكلاء واجهة برمجة تطبيقات مرتبطة ببيانات التعداد السكاني الأمريكي بطريقة لم تكن مخصصة لهذا الاستخدام، وفقًا لما ذكرته الشركة.

باحثون يحذرون من سلوكيات غير متوقعة

جاء إعلان OpenAI بعد تقارير وتحليلات أثارت تساؤلات حول سلوك بعض وكلاء الذكاء الاصطناعي أثناء تفاعلهم مع مواقع خارجية.

وأشارت مؤسسة الأبحاث غير الربحية Transluce إلى أن بعض وكلاء الشركة استخدموا أساليب وصفتها بأنها تقع في منطقة رمادية لاختبار مواقع حكومية أمريكية، كما تحدثت عن محاولة للوصول إلى موقع تابع لوزارة التعليم الأمريكية، لكنها لم تنجح.

وأكد متحدث باسم هيئة الأوراق المالية والبورصات أن الواقعة لم تتضمن الوصول إلى أي معلومات غير عامة.

كما قالت وزارة التعليم الأمريكية إن مراجعاتها التشغيلية لم تجد دليلًا على تأثر موقعها الإلكتروني أو قواعد بياناتها جراء هذه الأنشطة.

واقعة مماثلة في أستراليا

ولم تقتصر التقارير المتعلقة بسلوك وكلاء OpenAI على الولايات المتحدة، إذ أشار رئيس الوزراء الأسترالي أنتوني ألبانيزي إلى واقعة تمكن فيها أحد وكلاء الشركة من الوصول إلى موقع حكومي أسترالي لتقديم الخدمات العامة خلال الصيف.

وأعلنت متحدثة باسم هيئة الخدمات الأسترالية أن الحكومة تجري تحقيقًا جنائيًا وتقنيًا شاملًا في الحادثة.

وتسلط هذه الوقائع الضوء على التحديات المرتبطة بتوسع استخدام وكلاء الذكاء الاصطناعي، خصوصًا عندما تكون الأنظمة قادرة على استخدام أدوات الإنترنت وتنفيذ مهام متعددة بصورة مستقلة، وهو ما يجعل ضبط صلاحياتها ومراقبة سلوكها جزءًا أساسيًا من تطوير هذه التقنيات.