وكلاء الذكاء الاصطناعي يفرضون قواعد أمنية جديدة داخل المؤسسات.. 4 ضوابط أساسية قبل منحهم صلاحيات تنفيذ المهام
تتجه المؤسسات بصورة متزايدة إلى استخدام وكلاء الذكاء الاصطناعي القادرين على الوصول إلى الأنظمة الرقمية واستدعاء الأدوات وتنفيذ الإجراءات بشكل مستقل، وهو ما يفرض تحديات أمنية جديدة تختلف عن تلك المرتبطة بالبرمجيات التقليدية أو أدوات الذكاء الاصطناعي التي تكتفي بتقديم الإجابات والتوصيات.
وقبل السماح لأي وكيل ذكاء اصطناعي بالعمل داخل الأنظمة الفعلية، تبرز 4 أسئلة أساسية يجب على المؤسسة الإجابة عنها: من المسؤول عن تصرفات الوكيل؟ وما الصلاحيات التي يمتلكها؟ وهل يمكن إعادة بناء القرارات التي اتخذها؟ وهل توجد آلية فعالة ومختبرة لإيقافه عند انحرافه عن المهمة؟
وبحسب نيبو فارغيز، المدير الأول للأمن السيبراني في شركة FTI Consulting، فإن هذه الأسئلة تزداد أهمية مع انتقال المؤسسات من مجرد استخدام الذكاء الاصطناعي للحصول على المعلومات إلى نشر وكلاء يستطيعون تنفيذ إجراءات بأنفسهم.
الوكيل ليس مجرد حساب آلي
تكمن إحدى المشكلات الرئيسية في أن وكيل الذكاء الاصطناعي لا يتصرف مثل حساب خدمة تقليدي أو برنامج له مجموعة ثابتة من الأوامر.
فالوكيل يعمل نيابة عن شخص أو مؤسسة، لكنه يستطيع تحديد الخطوة التالية بصورة ديناميكية بناءً على المعلومات التي يحصل عليها أثناء تنفيذ المهمة، ما يجعل سلوكه أقل قابلية للتنبؤ مسبقًا.
ولهذا فإن التعامل معه باعتباره مجرد مستخدم آلي جديد وإعطائه حسابًا وصلاحيات ثابتة قد يخلق مخاطر أمنية واسعة.
الصلاحيات الواسعة قد تتحول إلى ثغرة
تعد إدارة الصلاحيات من أهم التحديات التي تواجه المؤسسات عند استخدام الوكلاء المستقلين.
فالوكيل قد يحتاج أثناء تنفيذ مهمة معينة إلى الوصول إلى عدة أدوات وأنظمة، وقد تؤثر المعلومات التي يجمعها في بداية المهمة على القرارات التي يتخذها لاحقًا.
ولهذا يطرح مبدأ «أقل قدر من الصلاحيات» باعتباره أحد الضوابط الأساسية، بحيث يحصل الوكيل على الصلاحيات اللازمة للمهمة الحالية فقط، ويتم تعديلها عندما تتغير طبيعة المهمة.
ومن الأخطاء التي قد تزيد المخاطر منح الوكيل منذ البداية جميع الصلاحيات التي ربما يحتاج إليها مستقبلًا، بدلًا من منحه الحد الأدنى الضروري لإنجاز العمل المطلوب.
وتزداد خطورة هذا الأمر كلما توسعت قدرة الوكيل على الوصول إلى قواعد البيانات والأنظمة الحساسة، لأن أي تلاعب بسلوكه أو اختراقه قد يسمح بتنفيذ إجراءات واسعة قبل اكتشاف المشكلة.
فعلى سبيل المثال، يمكن أن يمثل منح وكيل إمكانية الكتابة في قواعد بيانات حساسة أو الوصول إلى مفاتيح أنظمة مصدر خطر كبير، ولذلك ينبغي أن تكون كل صلاحية ممنوحة له قرارًا مقصودًا ومرتبطة بمسؤول محدد داخل المؤسسة.
الهوية الصحيحة لا تعني أن التصرف آمن
من التحديات الأخرى أن التحقق من هوية الوكيل وحده لا يكفي لضمان سلامة العمليات التي ينفذها.
فالمهاجم قد لا يحتاج إلى انتحال شخصية الوكيل، وإنما يمكنه التأثير في سلوكه من خلال إدخال تعليمات خبيثة داخل محتوى يبدو موثوقًا، بحيث ينفذ الوكيل إجراءً ضارًا بينما يظهر في سجلات المؤسسة وكأنه نشاط مشروع صادر عن وكيل مصرح له.
ولهذا يجب تحليل مصدر العملية وتوقيتها والبيانات التي وصل إليها الوكيل ومدى ارتباط تصرفه بالمهمة المحددة له.
وقد تبدو عمليتان متطابقتين عند النظر فقط إلى سجل الدخول، لكن تحليل السياق والسلوك المحيط بالعملية قد يكشف أن إحداهما غير طبيعية.
كما يتعين على فرق الأمن اختبار الوكلاء بصورة تحاكي أساليب المهاجمين، بما في ذلك إدخال تعليمات خبيثة عمدًا لمعرفة ما إذا كانت أنظمة الحماية قادرة على اكتشافها.
سرعة الذكاء الاصطناعي تفرض مراقبة آلية
يرى فارغيز أن الاعتماد على موظف لمراجعة السجلات بعد وقوع الحادث لم يعد مناسبًا للأنظمة التي تعمل بسرعة عالية.
والبديل يتمثل في بناء خط أساس للسلوك الطبيعي لكل وكيل، يتضمن حجم نشاطه، وتسلسل عملياته، وتوقيتها، والأدوات التي يستخدمها، ثم رصد أي انحرافات عن هذا النمط بشكل آلي.
فإذا كان هناك وكيل مالي اعتاد التعامل مع أنظمة مالية محددة ثم بدأ فجأة في الاستعلام عن أنظمة الموارد البشرية، أو كان يعمل عادة خلال ساعات الدوام وبدأ تنفيذ عمليات في الثالثة صباحًا، فإن هذه التغييرات قد تستحق التحقيق، حتى لو كانت العمليات نفسها مسموحة من الناحية التقنية.
متى يجب أن يتدخل الإنسان؟
رغم التوجه نحو منح الوكلاء مزيدًا من الاستقلالية، فإن بعض القرارات ينبغي أن تظل مرتبطة بموافقة بشرية.
ويشمل ذلك الإجراءات التي يصعب التراجع عنها أو التي يمكن أن تسبب أضرارًا كبيرة في حال حدوث خطأ، خصوصًا عندما تتعلق بـبيانات العملاء أو الالتزامات المالية أو تغيير الصلاحيات أو تعطيل أنظمة الحماية الأمنية.
ولا يقتصر الأمر على وجود زر لإيقاف الوكيل، إذ ينبغي عند تعليقه الاحتفاظ بحالته لمعرفة ما الذي كان ينفذه، وتحديد الإجراءات التي بدأت بالفعل، ومعرفة ما إذا كان بالإمكان التراجع عنها.
كما يجب اختبار آلية الإيقاف من جانب أشخاص لم يشاركوا في تطوير الوكيل للتأكد من فعاليتها في الظروف الحقيقية.
ضرورة تسجيل كل خطوة اتخذها الوكيل
مع زيادة استقلالية أنظمة الذكاء الاصطناعي، لم يعد تسجيل النتيجة النهائية للعملية كافيًا.
ويجب أن تمتلك المؤسسة سجلًا يسمح بإعادة بناء العملية كاملة، بدءًا من التعليمات التي أطلقت المهمة، والشخص الذي أصدرها، والبيانات والأدوات التي استخدمها الوكيل، والصلاحيات التي استند إليها في كل خطوة، وصولًا إلى النتيجة النهائية.
وبدأت بعض منصات الوكلاء بالفعل في توفير هويات مستقلة وسجلات دخول وتاريخ تدقيق خاص بكل وكيل، مع إمكانية ربط العمليات بالشخص أو القالب المسؤول عنها.
لكن هذه الإمكانات لا تزال مرتبطة بالمنصات المختلفة، ولا يوجد حتى الآن معيار واسع الانتشار يضمن تسجيل هذه البيانات ومشاركتها بطريقة موحدة بين الأنظمة.
وتزداد الصعوبة عندما تعمل عدة وكلاء معًا، إذ قد لا يظهر الخلل عند فحص كل وكيل منفردًا، وإنما أثناء عمليات تبادل المعلومات وتسليم المهام بين الوكلاء.
ولهذا يمكن أن تكون اختبارات المحاكاة والهجمات التجريبية أكثر فاعلية في اكتشاف هذه المخاطر من الاكتفاء بمراجعة السياسات المكتوبة.
الشرق الأوسط أمام فرصة لوضع الضوابط مبكرًا
يشهد الشرق الأوسط توسعًا سريعًا في تبني تقنيات الذكاء الاصطناعي، مع خطط في دول المنطقة لتوسيع استخدام الأنظمة المستقلة في الخدمات الحكومية والقطاعات المالية وغيرها.
وتشير التوجهات في الإمارات والسعودية إلى زيادة الاعتماد على الذكاء الاصطناعي ضمن خطط التحول الرقمي، ما يجعل مسألة الحوكمة والأمن أكثر أهمية مع انتقال هذه الأنظمة من مرحلة التجريب إلى الاستخدام الفعلي.
ويرى فارغيز أن سرعة تبني المنطقة لهذه التقنيات يمكن أن تمنح المؤسسات فرصة لبناء أنظمة الهوية والصلاحيات والمراقبة والأمن منذ البداية، بدلًا من محاولة إضافة هذه الضوابط بعد انتشار الوكلاء داخل البنية التشغيلية.
4 شروط قبل منح الوكيل صلاحيات فعلية
وتتلخص الضوابط الأساسية التي ينبغي توافرها قبل السماح لوكيل ذكاء اصطناعي بالعمل داخل الأنظمة الإنتاجية في أربعة عناصر:
1. مسؤول واضح: وجود مسؤول تنفيذي محدد يمتلك صلاحية إيقاف الوكيل.
2. صلاحيات محدودة: منح الوكيل الحد الأدنى من الصلاحيات التي يحتاج إليها لتنفيذ مهمته.
3. سجل شامل: الاحتفاظ ببيانات كافية لإعادة بناء كل قرار وإجراء اتخذه الوكيل.
4. آلية إيقاف مختبرة: وجود وسيلة لتعليق الوكيل والتراجع عن إجراءاته عند الضرورة، مع اختبارها بصورة مستقلة.
ويشير هذا التصور إلى أن التحدي الرئيسي أمام المؤسسات لم يعد مجرد امتلاك أدوات ذكاء اصطناعي أكثر قدرة، وإنما ضمان إمكانية التحكم في الوكلاء ومراقبتهم ومحاسبتهم عندما يصبحون قادرين على اتخاذ إجراءات فعلية داخل الأنظمة.
