أنثروبيك تكشف 5 حالات لاستخدام Claude في أبحاث بيولوجية عالية الخطورة
كشفت شركة أنثروبيك عن رصد خمس حالات لاستخدام نماذج الذكاء الاصطناعي التابعة لها، وعلى رأسها Claude، في أبحاث بيولوجية شديدة الحساسية، يمكن أن تحمل تطبيقات مفيدة في المجال العلمي والطبي، لكنها قد تُستخدم أيضًا في أغراض خطرة.
وأوضحت الشركة أن الحالات شملت باحثين يعملون داخل مؤسسات علمية حقيقية، لكنها لم تثبت وجود نية خبيثة أو رغبة في إلحاق الضرر من جانب العلماء المعنيين. ومع ذلك، حظرت الحسابات التي ارتبطت بأنشطة مخالفة لسياساتها، وبدأت في تعزيز أنظمة المراقبة والحماية، كما شاركت بعض المعلومات مع جهات مختصة.
وبحسب تقرير التهديدات الصادر عن أنثروبيك، امتدت الأنشطة التي خضعت للتحقيقات من ديسمبر 2025 حتى أغسطس 2026.
وترى الشركة أن التمييز بين البحث العلمي المشروع والعمل الذي يمكن أن يساهم في تطوير أسلحة بيولوجية يمثل تحديًا متزايدًا، لأن التقنيات والأساليب نفسها يمكن توظيفها في تطوير الأدوية واللقاحات أو في تطبيقات أكثر خطورة.
خمس حالات تختبر قدرات أنظمة الحماية
تعلقت إحدى الحالات بباحثين يعملون ضمن برنامج علمي مرتبط بجهة لها صلة بالقطاع العسكري، حيث استعانوا بنموذج Claude في إعداد وتحرير مواد بحثية تتناول دراسة فيروسية حساسة.
ورصدت أنظمة أنثروبيك هذه الطلبات، ورفضت أجزاء منها بعدما صنفتها ضمن فئة الأبحاث البيولوجية عالية الخطورة.
وزادت المشكلة تعقيدًا عندما حاولت منصة وسيطة إعادة توجيه بعض الطلبات التي رفضها Claude إلى نماذج أخرى تتمتع بقيود أقل.
كما رصدت أنثروبيك محاولات لتجاوز القيود الجغرافية والوصول إلى خدماتها من مناطق غير مدعومة، ما دفعها إلى حظر الحسابات المرتبطة بهذه الأنشطة، والتعاون مع جهات خارجية لتعطيل بعض طرق الوصول.
وفي حالة أخرى، أمضى أحد الباحثين أسابيع في استخدام نماذج أقل قوة من Claude للمساعدة في التخطيط لدراسة بيولوجية حساسة، وتحليل البيانات، وكتابة أجزاء من العمل العلمي.
وقدرت أنثروبيك أن المساعدة التي قدمها النموذج ظلت محدودة، بعدما حالت أنظمة الحماية دون الوصول إلى النماذج الأقوى في المهام الأكثر خطورة.
كما رصد التقرير استخدام Claude في مشاريع تتعلق بإعادة تصميم جزيئات وسموم لأغراض علمية يمكن تفسيرها في سياق علاجي، لكنها قد تحمل أيضًا استخدامات ضارة بحسب طريقة توظيفها.
وفي بعض الحالات، تعمد الباحثون إلى عدم ذكر أسماء المواد التي يعملون عليها أثناء المحادثات مع النموذج، الأمر الذي زاد صعوبة تحديد الغرض الحقيقي من النشاط.
أنثروبيك: لا دليل على نية خبيثة
أكدت أنثروبيك أنها لا تنسب نية خبيثة إلى العلماء الذين شملتهم التحقيقات، كما امتنعت عن الكشف عن أسمائهم أو المؤسسات التي يعملون بها.
وترى الشركة أن هذه الحالات تعكس مشكلة أساسية في التعامل مع الأبحاث البيولوجية الحساسة، إذ يمكن أن يكون المشروع جزءًا من بحث طبي مشروع، وفي الوقت نفسه يمكن أن توفر نتائجه أو أدواته أساسًا لتطبيقات ضارة.
تطور قدرات الذكاء الاصطناعي يزيد المخاطر
أوضحت أنثروبيك أن نماذج الذكاء الاصطناعي الحديثة أصبحت أكثر فائدة للباحثين في المجالات العلمية مقارنة بالأجيال السابقة، وهو ما يجعلها أكثر جاذبية أيضًا للجهات العاملة في المجالات الحساسة.
وأطلقت الشركة نموذج Claude Fable 5 بقيود أكثر صرامة على بعض الأسئلة البيولوجية، بعد أن أظهرت تقييماتها صعوبة ضمان عدم مساهمة النماذج المتقدمة في أبحاث يمكن أن تحمل مخاطر بيولوجية.
وتكشف الحالات الخمس كذلك عن مشكلة الاعتماد على تحليل الطلب الواحد فقط. فقد يبدو سؤال تقني معقد مشروعًا عند النظر إليه بشكل منفصل، بينما يمكن أن تكشف سلسلة طويلة من المحادثات، إلى جانب المعلومات المرتبطة بالحساب، عن نمط أكثر إثارة للقلق.
ولهذا السبب، دعت أنثروبيك إلى الاعتماد على مجموعة أوسع من المؤشرات عند تحديد إمكانية الوصول إلى أقوى القدرات العلمية، بما يشمل هوية المؤسسة، وسجل الحساب، وموقع المستخدم، وطبيعة المشروع.
وترى الشركة أن بعض الأدوات البيولوجية المتقدمة قد تحتاج مستقبلًا إلى أنظمة وصول مخصصة للمستخدمين والمؤسسات التي خضعت لعمليات تحقق مسبقة.
حظر الحسابات وتعزيز أنظمة الحماية
حظرت أنثروبيك الحسابات التي خالفت سياساتها، وأدخلت نتائج التحقيقات في أنظمة الحماية الخاصة بها، كما شاركت المعلومات مع السلطات وشركات أخرى في الحالات التي رأت أنها تستدعي ذلك.
ومع ذلك، أظهر التقرير أن بعض الباحثين تمكنوا من الحصول على قدر محدود من المساعدة رغم وجود الحواجز، وهو ما يعكس صعوبة بناء نظام حماية كامل أمام الاستخدامات التي تجمع بين الأغراض العلمية المشروعة والاستخدامات المحتملة الخطورة.
وتبرز هذه الحالات تحديًا متزايدًا أمام شركات الذكاء الاصطناعي، يتمثل في صعوبة تحديد النية الحقيقية وراء بعض الأبحاث العلمية الحساسة، خصوصًا مع ارتفاع قدرة النماذج على فهم التفاصيل العلمية المتخصصة.
ويشير التقرير إلى أن تشديد القيود يظل ضروريًا، لكن الاعتماد على حظر كلمات أو موضوعات محددة وحده قد لا يكون كافيًا، ما يجعل التحقق من هوية المستخدم والمؤسسة ودراسة السياق الكامل للنشاط أكثر أهمية مع استمرار تطور قدرات الذكاء الاصطناعي.
