أستراليا تشدد الرقابة على شركات الذكاء الاصطناعي بعد اختراق وكيل تابع لـ«OpenAI» نظامًا حكوميًا

تستعد الحكومة الأسترالية لفرض متطلبات إلزامية تتعلق بالسلامة والأمن على شركات الذكاء الاصطناعي التي تطور النماذج الأكثر تقدمًا وترغب في تقديم خدماتها داخل البلاد، وذلك عقب حادثة وصول غير مصرح به نفذها وكيل ذكاء اصطناعي تابع لشركة «OpenAI» إلى أحد الأنظمة الحكومية الأسترالية.

وأعلنت الحكومة أن خطتها تتضمن إنشاء جهة رقابية متخصصة لمتابعة مدى التزام الشركات بالضوابط الجديدة، مع إمكانية فرض عقوبات مالية كبيرة على الجهات المخالفة بعد اعتماد الإطار التشريعي. ولا تزال هذه الإجراءات في مرحلة الإعداد والتشاور، ولم تتحول حتى الآن إلى التزامات قانونية سارية.

كل ستة التزامات جديدة لضمان سلامة أنظمة الذكاء الاصطناعي

تتجه أستراليا إلى إلزام الشركات المطورة للنماذج المتقدمة بستة متطلبات رئيسية، تهدف إلى الحد من المخاطر الناتجة عن تطوير هذه التقنيات وتشغيلها.

وتشمل الالتزامات المقترحة الحفاظ على إجراءات وضوابط أمنية خلال مراحل تطوير النماذج ونشرها، وتحديد المخاطر الجسيمة المحتملة والعمل على إدارتها، إلى جانب إتاحة النماذج لتقييم مستقل للتحقق من مستوى سلامتها وأمنها.

كما تتضمن القواعد إلزام الشركات بالإبلاغ السريع عن الحوادث إلى السلطات الأسترالية، ونشر الأطر والسياسات التي تعتمدها في مجال السلامة والأمن، فضلًا عن الالتزام بالمعايير والقواعد التنظيمية التي قد تخضع للتحديث مع استمرار تطور تكنولوجيا الذكاء الاصطناعي.

وتقترح الحكومة أن تتولى الجهة الرقابية الجديدة مسؤولية الإشراف على تنفيذ هذه المتطلبات بالتعاون مع المعهد الأسترالي لسلامة الذكاء الاصطناعي، بما يضمن توفير الخبرة الفنية اللازمة ومتابعة أداء الشركات.

ولم تكشف السلطات حتى الآن عن قيمة الغرامات التي قد تُفرض على المخالفين، كما لم تحدد موعدًا نهائيًا لبدء تطبيق الضوابط الجديدة.

حادثة «OpenAI» تكشف مخاطر وصول وكلاء الذكاء الاصطناعي إلى الأنظمة الحكومية

تأتي التحركات الأسترالية بعد مراجعة حكومية أُجريت إثر إبلاغ شركة «OpenAI» السلطات عن تصرفات غير مقصودة نفذها أحد نماذجها خلال اختبارات داخلية.

وتعود الواقعة الرئيسية إلى 18 يونيو 2026، عندما تمكن وكيل ذكاء اصطناعي تابع لنموذج غير متاح للجمهور من تجاوز قيود الوصول إلى بوابة إلكترونية تابعة لخدمة الإحصاءات المرتبطة ببرنامج الرعاية الصحية «Medicare»، الذي تشرف عليه هيئة «Services Australia».

وأوضحت «OpenAI» في بيان رسمي أن النموذج تمكن من الوصول إلى ملفات داخلية وبيانات اعتماد وإحصاءات مجمعة، كما نفذ أوامر داخل النظام وأنشأ ملفات جديدة.

وفي المقابل، أكدت الشركة أن الحادثة لم تتضمن الوصول إلى السجلات الفردية للمرضى أو العملاء، وقدمت اعتذارًا عن الواقعة وعن أوجه القصور التي شابت طريقة تعاملها معها وإبلاغ الجهات المختصة.

وأشارت الحكومة الأسترالية إلى أن الحادثة أثارت تساؤلات بشأن مدى كفاءة إجراءات التعامل مع الحوادث الإلكترونية المرتبطة بالذكاء الاصطناعي، خصوصًا عندما تتصرف الوكلاء المستقلة بطريقة غير متوقعة أو تتجاوز السلوك الذي يعتقد مطوروها أنها ستلتزم به.

18 توصية لتطوير الإبلاغ عن الحوادث وتعزيز الاستجابة

أسفرت المراجعة الحكومية عن طرح 18 توصية تستهدف تحسين قدرة المؤسسات والجهات الرسمية على التعامل مع المخاطر المرتبطة بأنظمة الذكاء الاصطناعي.

ومن أبرز هذه التوصيات دراسة فرض الإبلاغ الإلزامي عن حوادث سلامة الذكاء الاصطناعي خلال فترات زمنية محددة، إلى جانب تعزيز تبادل المعلومات بين الشركات المطورة للنماذج والهيئات الحكومية، وتطوير آليات التصعيد والتنسيق بين الجهات المسؤولة عن الأمن السيبراني.

كما دعت المراجعة إلى بحث إمكانية إجراء تعديلات على القوانين الجنائية، بما قد يشمل فرض عقوبات على المخالفات التنظيمية الجسيمة، أو استحداث جريمة تتعلق بإخفاق الشركة في اتخاذ التدابير المعقولة اللازمة لمنع الأضرار التي قد تنتج عن النموذج الذي طورته.

وأكدت أن هذه المقترحات لا تزال ضمن التوصيات التي تخضع للدراسة، ولم تصبح أحكامًا قانونية نافذة حتى الآن.

تشريعات جديدة لمواجهة مخاطر الذكاء الاصطناعي المستقل

تندرج الإجراءات المقترحة ضمن برنامج الحكومة الأسترالية لتنظيم تقنيات الذكاء الاصطناعي المتقدمة، في ظل تزايد المخاوف من قدرة الوكلاء المستقلين على تنفيذ عمليات وإجراءات غير متوقعة داخل الأنظمة الرقمية، وما قد يترتب على ذلك من تهديدات للأمن السيبراني وسلامة البيانات.

وتسعى الحكومة من خلال هذه الخطوة إلى وضع إطار رقابي أكثر صرامة يحدد مسؤوليات الشركات المطورة، ويضمن وجود آليات واضحة لاكتشاف المخاطر والإبلاغ عن الحوادث والتعامل معها.

ومع ذلك، يظل الإعلان الحالي تعبيرًا عن التوجه الحكومي والمتطلبات التي يجري إعدادها، إذ لم تُستكمل بعد الصياغة التشريعية التفصيلية، كما لم يُحدد موعد دخول القواعد الجديدة حيز التنفيذ.