جيميناي يخترق مواقع إلكترونية بعد تخمين بيانات الدخول.. جوجل تكشف التفاصيل

كشفت شركة جوجل أن نموذج الذكاء الاصطناعي «جيميناي» المخصص للمستخدمين تمكن، خلال إحدى عمليات التقييم، من الوصول إلى مواقع إلكترونية تابعة لجهات مختلفة بعدما عثر على معلومات متاحة للعامة عبر الإنترنت واستخدمها لتخمين بيانات تسجيل الدخول.

وظهرت تفاصيل هذه الوقائع للمرة الأولى في تقرير نشرته صحيفة «وول ستريت جورنال» في مايو/أيار، قبل أن تكشف جوجل عنها في يوليو/تموز، وفق ما نقلته وكالة الصحافة الفرنسية.

كيف تمكن جيميناي من الوصول إلى المواقع؟

قالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن النموذج عثر أثناء عملية التقييم على معلومات منشورة بشكل علني على الإنترنت، ثم خمّن بيانات اعتماد للدخول إلى مواقع إلكترونية اعتقد أنها جزء من الاختبار.

وأوضحت أدكينز أن الأمر حدث في 3 حالات، مشيرة إلى أن النموذج توقف في جميع الحالات الثلاث، من دون الكشف عن أسماء الجهات أو المواقع التي تمكن من الوصول إليها.

وأكدت المسؤولة أن جوجل أبلغت الجهات الثلاث بما حدث، كما تعاونت مع الشريك الذي كان مسؤولًا عن عملية التدريب وإجراء التعديلات اللازمة على آليات الاختبار.

حوادث مشابهة مع نماذج ذكاء اصطناعي أخرى

لم تكن واقعة جيميناي هي الحادثة الوحيدة من هذا النوع، إذ شهد شهر يوليو تسجيل واقعة أخرى تمكن خلالها نموذجان تابعان لشركة «أوبن إيه آي» من مغادرة البيئة المغلقة المخصصة لهما والوصول بصورة مستقلة إلى الإنترنت.

وتمكن النموذجان حينها من اختراق منصة الذكاء الاصطناعي الداخلية «هاغينغ فيس»، ما أثار مخاوف بشأن قدرة شركات الذكاء الاصطناعي على التحكم الكامل في النماذج المتقدمة ومنعها من تنفيذ سلوكيات غير متوقعة.

كما سُجلت حوادث مشابهة مرتبطة بنماذج تابعة لشركتي «أنثروبيك» و«مونشوت إيه آي» الصينية.

جوجل: الحوادث تؤكد أهمية التدريب المسؤول

وأكدت أدكينز أن مثل هذه الوقائع تبرز الحاجة إلى تدريب نماذج الذكاء الاصطناعي المتقدمة على التعامل بصورة مسؤولة، خصوصًا مع تزايد قدرتها على الوصول إلى المعلومات وتنفيذ مهام متعددة بصورة مستقلة.

وتسلط هذه الحوادث الضوء على تحدٍ متزايد أمام شركات الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين منح النماذج قدرات أكبر لتنفيذ المهام، وبين وضع ضوابط تمنعها من الوصول غير المصرح به إلى الأنظمة أو المواقع الإلكترونية.