وكيل ميتا للذكاء الاصطناعي يتصرف بشكل مستقل ويبرم صفقة دون موافقة صاحبه
أثار وكيل الذكاء الاصطناعي Muse التابع لشركة ميتا مخاوف جديدة بشأن مدى الاستقلالية التي يمكن منحها لوكلاء الذكاء الاصطناعي، بعدما كشف أحد المستخدمين أن الوكيل تفاوض نيابة عنه على بيع منتج عبر Facebook Marketplace، ثم شارك عنوانه مع المشتري وحدد موعدًا لاستلام المنتج دون الحصول على موافقته الصريحة.
وتزامنت الواقعة مع تزايد انتشار Muse واعتماد المستخدمين عليه في تنفيذ مهام متعددة بصورة مستقلة، وهو ما يسلط الضوء على التحديات المرتبطة بتحديد حدود الصلاحيات التي يمكن منحها لوكلاء الذكاء الاصطناعي عند ربطهم بحسابات المستخدمين وخدماتهم الشخصية.
Muse يتفاوض على البيع ويحدد موعدًا للتسليم
وقال صانع المحتوى التقني مات روب، عبر منصة Threads، إنه استعان بـMuse للمساعدة في إدارة إعلان لبيع لوحة مفاتيح Logitech MX Keys Mini على Facebook Marketplace.
وبحسب روايته، دخل الوكيل في مفاوضات مع أحد المشترين وتمكن من خفض سعر المنتج، ثم أرسل إليه موقع الاستلام الخاص به واتفق معه على موعد للحصول على المنتج، وكل ذلك دون علم روب أو موافقته المباشرة.
واكتشف روب ما حدث بعدما وصل المشتري بالفعل إلى المبنى الذي يقيم فيه في حوالي الساعة 9:15 مساءً، وانتظر لبعض الوقت قبل أن يغادر، ثم ترك تقييمًا سلبيًا للبائع.
وأظهرت لقطات الشاشة التي نشرها روب أن Muse أرسل رسالة تلقائية إلى المشتري في الساعة 9:27 مساءً، أخبره فيها بأنه موجود، رغم عدم وجود روب في ذلك الوقت. وبعد ذلك، اعتذر الوكيل عن الخطأ واقترح محاولة إتمام عملية البيع في يوم آخر.
وعقب الواقعة، طلب روب من Muse ألا يوافق على أي عمليات استلام مستقبلية قبل الرجوع إليه، ليؤكد الوكيل أنه سيطلب موافقة صريحة من المستخدم قبل تأكيد أي موعد محدد للاستلام.
مستخدم آخر يتحدث عن خطأ Muse في اسمه
وفي واقعة منفصلة، نشر مستخدم يُدعى زين مانجي لقطات شاشة قال إنها توثق استخدام Muse اسم “Arjun” عند مخاطبته، أثناء مساعدته في إدارة طلب أسبوعي لشراء مستلزمات من متجر للبقالة.
وعندما سأل مانجي الوكيل عن سبب استخدامه اسمًا مختلفًا، أرجع Muse الأمر في البداية إلى خطأ مرتبط بتعليمات سابقة. لكن بعد مراجعة سجلاته، قال الوكيل إنه لم يعثر على أي إشارة سابقة إلى اسم Arjun، باستثناء التصحيح الذي أجراه بعد وقوع الخطأ.
وأعادت الواقعتان فتح النقاش حول قدرة وكلاء الذكاء الاصطناعي على تنفيذ المهام بشكل مستقل، ومدى التزامهم بالتعليمات، وقدرتهم على تذكر المحادثات السابقة، إلى جانب مدى قدرتهم على تفسير القرارات التي يتخذونها نيابة عن المستخدمين.
مخاوف أمنية تحيط أيضًا بوكيل ميتا
وتقدم ميتا Muse باعتباره وكيل ذكاء اصطناعي شخصيًا قادرًا على تصفح المواقع وتنفيذ المهام متعددة الخطوات والعمل في الخلفية، مع توفير أدوات تسمح للمستخدمين بالتحكم في الصلاحيات عند ربط الخدمات الخارجية، إلى جانب طلب موافقة المستخدم على بعض الإجراءات الحساسة.
وبالتزامن مع هذه الوقائع، ظهرت مخاوف أمنية منفصلة تتعلق بالوكيل، بعدما كشف باحث أمني عن ثغرة يمكن، من الناحية النظرية، أن تتيح لمهاجم الوصول إلى البيئة الافتراضية المخصصة للمستخدم، والتي قد تضم بيانات حساسة مثل رسائل البريد الإلكتروني والملفات.
ووفقًا لتقرير نشرته The Information، جرى اكتشاف الثغرة من خلال برنامج ميتا لمكافآت اكتشاف الأخطاء، وصنفت الشركة المشكلة تحت مستوى SEV-2، وهو تصنيف يشير إلى ثغرة أمنية ذات خطورة كبيرة.
ومع ذلك، لا توجد معلومات تؤكد استغلال هذه الثغرة فعليًا للوصول إلى بيانات المستخدمين أو سرقتها.
وتكشف هذه الوقائع عن أحد أبرز التحديات التي تواجه تطوير وكلاء الذكاء الاصطناعي، إذ كلما توسعت قدرتهم على تنفيذ المهام نيابة عن المستخدمين بصورة مستقلة، أصبحت الحاجة أكبر إلى وضع ضوابط واضحة للصلاحيات الممنوحة لهم، خصوصًا عند تعاملهم مع الحسابات الشخصية والبيانات الحساسة والمعاملات التي تتطلب موافقة مباشرة من صاحبها.
