الإنسان أولًا.. مايكروسوفت تضع «خطوطًا حمراء» جديدة للذكاء الاصطناعي

أعلنت شركة «مايكروسوفت» توجيهات جديدة لتنظيم تطوير واستخدام نماذج الذكاء الاصطناعي، تضع قيودًا واضحة بهدف إبقاء هذه الأنظمة تحت سيطرة الإنسان، في وقت تتزايد فيه المخاوف بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم.

ووفقًا لما أوردته «بلومبرج»، تتضمن الوثيقة الجديدة 37 صفحة ونحو 15 ألف كلمة، وتلخص الشركة فلسفتها الأساسية في عبارة مفادها أن «الإنسان أهم من الذكاء الاصطناعي».

وتحدد الوثيقة مجموعة من «الخطوط الحمراء» التي يجب على المطورين والمستخدمين عدم تجاوزها، من بينها منع النماذج من تقديم المساعدة في الأعمال الخطرة، أو تسهيل الوصول إلى المواد الخطرة، إلى جانب حظر التلاعب بالمستخدمين والخداع والتواصل الخفي وإنتاج المحتوى العنيف أو الضار.

وتؤكد «مايكروسوفت» أن نماذج الذكاء الاصطناعي التابعة لها لا ينبغي أن تحصل على حقوق أو شخصية اعتبارية، كما يجب ألا تُصمم بطريقة تمكنها من تجاوز الرقابة البشرية أو مقاومة السيطرة عليها. كما تنص المبادئ على ضرورة رفض تنفيذ أي مهمة إذا كان إنجازها يتطلب مخالفة القواعد الأساسية التي وضعتها الشركة.

وتشدد التوجيهات كذلك على ضرورة بقاء الذكاء الاصطناعي في خدمة الإنسان وتحت إشرافه، مع تجنب تطوير أهداف خاصة بالنظام أو سلوكيات تمكنه من إخفاء أخطائه أو تصرفاته غير السليمة، إضافة إلى رفض تطوير أساليب تواصل لا يستطيع البشر فهمها.

وتأتي هذه الخطوة في ظل تصاعد الدعوات داخل قطاع التكنولوجيا إلى تعزيز إجراءات السلامة وإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، بعد سلسلة من الحوادث التي أثارت مخاوف بشأن فقدان السيطرة على بعض الأنظمة المستقلة.

وأكدت «مايكروسوفت» أن استراتيجيتها لا تقوم على الدخول في سباق لإنتاج ذكاء اصطناعي خارق متعدد الأغراض يمكنه تجاوز إجراءات الأمان، وإنما تستهدف بناء أنظمة مفيدة وآمنة، حتى لو تطلب ذلك التخلي عن بعض مستويات التعميم أو الاستقلالية أو القدرة القصوى.

ومن المقرر أن تظل مسودة «مدونة السلوك للذكاء الاصطناعي الإنساني» مفتوحة أمام الملاحظات الخارجية لمدة ستة أسابيع، على أن تعمل الشركة على تحديثها قبل اعتمادها لتوجيه عملية تطوير نماذج الذكاء الاصطناعي خلال الفترة المقبلة، بدءًا من عام 2027.

أنثروبيك تدعو إلى إبطاء تطوير الذكاء الاصطناعي

وتتزامن تحركات «مايكروسوفت» مع دعوة داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، محذرًا من تصاعد المخاطر الجسيمة مع ازدياد قدرات هذه الأنظمة.

وأوضح أمودي، في تدوينة نشرها السبت، أن إبطاء التطوير لا يعني وقف تدريب النماذج أو تعطيل التقدم التكنولوجي، وإنما منح الشركات وقتًا إضافيًا للعمل على مواءمة النماذج وتأمينها، إلى جانب إخضاعها لتقييمات مستقلة من جهات خارجية.

وأشار إلى أن إبطاء التطوير لمدة عام أو عامين، قبل وصول النماذج إلى مستويات حرجة من القدرات، يمكن أن يوفر وقتًا لتعزيز توافق الذكاء الاصطناعي مع أهداف البشر وقيمهم، بما قد يساعد في تقليل احتمالات وقوع أخطاء جسيمة.

وأكد أمودي أن بعض إجراءات السلامة يمكن للشركات تنفيذها بشكل منفرد، بينما تتطلب إجراءات أخرى تعاونًا وتنسيقًا بين شركات القطاع والحكومات حول العالم.