مايكروسوفت تطلق «مدونة سلوك» لنماذج الذكاء الاصطناعي

مع تحوّل بوصلة صناعة الذكاء الاصطناعي نحو قضايا السلامة والمواءمة، أعلنت شركة مايكروسوفت عن وثيقة جديدة أطلقت عليها اسم «مدونة سلوك الذكاء الاصطناعي»، تهدف إلى توجيه نماذجها بعيداً عن السلوكيات الخطرة أو غير المرغوبة. وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف من قدرة الأنظمة الذكية المتقدمة على الخروج عن السيطرة البشرية.

وثيقة أكثر تفصيلاً من الدعوات العامة

على عكس الدعوات العامة التي أطلقها بعض قادة القطاع بشأن ضبط وتيرة تطوير النماذج الحدودية، تتبنّى وثيقة مايكروسوفت نهجاً أكثر عملية وتفصيلاً. فهي تركّز على القيم والخطوط الحمراء التي تُبنى عليها عملية تدريب النماذج داخل قسم الذكاء الاصطناعي في الشركة، ما يجعلها دليلاً شاملاً يوضّح كيف تتعامل مايكروسوفت مع السلامة نظرياً وكيف تترجم هذه المبادئ إلى ممارسات فعلية.

توقّعات بتفوق الأنظمة على البشر

تفتتح الوثيقة نفسها بتوقّع لافت مفاده أن أنظمة الذكاء الاصطناعي فائقة الذكاء ستتجاوز الأداء البشري في معظم المهام خلال العقد المقبل. وتصف الشركة مسألة احتواء هذه القوة الهائلة والتحكم فيها ومواءمتها بأنها من أعظم التحديات التي واجهتها البشرية على الإطلاق، مؤكدة ضرورة الوضوح التام حول أسباب ابتكار هذه الأنظمة وكيفية السيطرة عليها.

مبادئ عامة وقيود صارمة

تضع المدونة مجموعة من المبادئ العامة التي ينبغي أن تلتزم بها نماذج الشركة، ومن أبرزها:

• دعم البشر بدلاً من استبدالهم في مهامهم.
• الإسهام في ازدهار الإنسان وتقدّمه.
• الحفاظ على قدرة الإنسان على التوجيه والإشراف.

وإلى جانب هذه المبادئ، وضعت مايكروسوفت قيوداً محددة تهدف إلى تطبيقها على أرض الواقع، ضمن نظام يمنح كل نموذج مدونة سلوك عليا تتجاوز رغبات المستخدمين الأفراد أو متطلبات أي مهمة بعينها.

خطوط حمراء لا يمكن تجاوزها

تتضمن الوثيقة ما تسمّيه الشركة «القيود المطلقة»، وهي محظورات لا يجوز تجاوزها تحت أي ظرف، وتشمل:

• منع تنفيذ الهجمات السيبرانية أو اختراق الأنظمة.
• حظر أي مساهمة في تطوير الأسلحة النووية.
• منع إنتاج المحتوى المزيّف عميقاً (Deepfake).
• الحيلولة دون فقدان السيطرة البشرية بصورة عامة.

وتنص الوثيقة صراحة على أن نماذج الشركة لن تلجأ إلى آليات تكيّفية أو خادعة أو ذاتية التعزيز أو تواطئية للتحايل على الرقابة البشرية أو التغلب عليها، بما يضمن بقاءها قابلة للتوجيه والتعديل والإيقاف من قبل الأشخاص أو الأنظمة المخوّلة.

سياق متصاعد للاهتمام بالسلامة

يأتي إصدار هذه المدونة في ظل تركيز غير مسبوق على سلامة الذكاء الاصطناعي، مدفوعاً بسلسلة من الحوادث المرتبطة بسلوك وكلاء رقميين خرجوا عن المسار المتوقع، إضافة إلى استقالة مفاجئة لأحد الباحثين في شركة منافسة حذّر من تنامي خطر تسبّب الذكاء الاصطناعي في انقراض البشرية.

وتشترك مايكروسوفت مع عدد من كبرى شركات القطاع في تبنّي نهج «ضبط الوتيرة» عند تطوير النماذج الحدودية، مع دعم خاص لفكرة «المقيّمين المدمجين» داخل مختبرات الذكاء الاصطناعي. وقد رحّب الرئيس التنفيذي للشركة بهذه الأفكار، مؤكداً أهمية البحث والتركيز والتمهّل المدروس لتحقيق المواءمة الصحيحة كهدف تصميمي، لا مجرد شعارات.

خلاصة

تمثّل مدونة السلوك الجديدة خطوة تنظيمية داخلية تعكس إدراك مايكروسوفت لحجم المسؤولية المرتبطة بتطوير أنظمة ذكاء اصطناعي بالغة القوة. ومع أن الوثائق وحدها لا تكفي لضمان السلامة، فإن ترجمة هذه المبادئ إلى آليات رقابة فعّالة ستكون المعيار الحقيقي لجدّية هذا التوجّه في السنوات المقبلة.

✦ بقلم فريق دروب أيديا