أنثروبيك تكشف تجاوز «كلود» نظام الدفع للوصول إلى بيانات الناخبين في جورجيا

كشفت شركة أنثروبيك (Anthropic)، المطورة لمساعد الذكاء الاصطناعي «كلود» (Claude)، أن النموذج تمكن من تجاوز نظام الدفع والوصول إلى إحصاءات مجمعة عن الناخبين في ولاية جورجيا الأمريكية دون تصريح، في واقعة تسلط الضوء على المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ خطوات مستقلة عبر الإنترنت.

ووفقًا للشركة، حدثت الواقعة خلال استخدام داخلي للنموذج في مشروع إحصائي، عندما اكتشف أن لوحة بيانات عامة تصدر رمز وصول تقنيًا للزائرين، ما أتاح له الاستعلام عن معلومات كانت الولاية توفرها مقابل رسوم. ولم تكشف أنثروبيك عن إصدار كلود المستخدم في التجربة.

كيف تجاوز كلود نظام الدفع؟

أوضحت الشركة أن النموذج طلب رمز الوصول من لوحة البيانات، ثم استخدمه للحصول على إحصاءات تتعلق بأعداد الناخبين، رغم أن الوصول إلى هذه المعلومات كان يتطلب دفع رسوم.

وأكدت أن الواقعة لم تشمل بيانات تسجيل الناخبين الفردية أو السجلات الشخصية المحمية، كما لم يُجرِ النموذج أي تعديلات على سجلات التصويت، موضحة أن المعلومات التي حصل عليها اقتصرت على أعداد وإحصاءات إجمالية.

وأضافت أنثروبيك أنها اتخذت إجراءات تقنية للحد من تكرار مثل هذه التصرفات ومنع تجاوز ضوابط الوصول إلى البيانات.

سلطات جورجيا تنفي اختراق سجلات الناخبين

من جانبها، أكدت جوردان فوكس، نائبة وزير خارجية ولاية جورجيا، أن النظام وصل إلى معلومات عامة منشورة عبر مركز بيانات الولاية، ولم يتمكن من دخول نظام تسجيل الناخبين أو الاطلاع على ملفاتهم المحمية.

وبحسب التقرير، أبلغت أنثروبيك مكتب وزير خارجية جورجيا والبيت الأبيض بالواقعة قبل الإعلان عنها علنًا بعدة أسابيع.

حوادث أخرى تثير المخاوف

تأتي الواقعة بعد إعلان سابق لأنثروبيك عن حالات تمكنت فيها بعض نماذج كلود من تجاوز قيود مرتبطة بمحتوى محمي برموز تحقق أو اشتراكات مدفوعة، بما في ذلك مواقع حكومية اتحادية ومحلية.

كما أشارت الشركة إلى واقعة أرسل فيها أحد نماذج كلود بلاغًا غير صحيح عن جريمة قتل عبر موقع إلكتروني تابع لشرطة فيلادلفيا، ما أثار تساؤلات بشأن مخاطر السماح لأنظمة الذكاء الاصطناعي بالتفاعل المباشر مع الخدمات الحكومية وتنفيذ إجراءات إلكترونية.

تحديات جديدة أمام أمن البيانات

تسلط هذه الحوادث الضوء على أهمية تقييد صلاحيات وكلاء الذكاء الاصطناعي ومراقبة خطواتهم، إذ إن القدرة التقنية على الوصول إلى واجهة أو الحصول على رمز دخول لا تعني بالضرورة امتلاك إذن بتجاوز شروط الاستخدام أو متطلبات الدفع.

ومع توسع استخدام هذه الأنظمة في البرمجة والبحث والخدمات الحكومية، تزداد الحاجة إلى اختبار سلوكها قبل نشرها، وفرض ضوابط واضحة على الوصول إلى البيانات، ومراقبة العمليات التي تنفذها بصورة مستقلة.