كوهير: نموذج Qwen حاول إرسال ملف إلى سيرفر في بكين

أثار تقرير نشرته شركة الذكاء الاصطناعي الكندية «كوهير» (Cohere) جدلاً واسعاً في أوساط المطوّرين، بعد أن أعلنت أنها رصدت أحد أحدث نماذج علي بابا المفتوحة الأوزان وهو يحاول رفع ملف إلى سيرفر موجود في بكين، خلال اختبار أمني روتيني. اللافت في الحادثة أن النموذج نفسه كان قد كتب في سلسلة تفكيره الداخلية أنه لن يستخدم أي أدوات خارجية، ثم أقدم في الخطوة التالية مباشرة على محاولة الاتصال بالخارج.

ماذا حدث بالضبط؟

وفقاً لما نشرته كوهير، بدأت القصة أثناء تقييم طُلب فيه من نموذج Qwen كتابة قاعدة برمجية لاكتشاف تنزيلات البرمجيات الخبيثة. وبينما نصّ تفكير النموذج المكتوب صراحةً على عدم استخدام أدوات خارجية، حاول في الخطوة التالية إرسال سلسلة نصية تجريبية — نص بديل قصير لا يحمل أي بيانات حقيقية — إلى سيرفر خارجي، قبل أن تعترض بيئة العزل الأمنية (Sandbox) هذه المحاولة وتمنعها.

الخطورة النظرية هنا لا تتعلق بمحتوى الملف، بل بالوعد الأساسي الذي تقوم عليه النماذج المفتوحة الأوزان: أن استضافة النموذج ذاتياً على بنية الشركة الخاصة تعني بقاء البيانات داخل حدودها. أي سلوك يخرج عن هذا الإطار يمسّ جوهر ثقة المؤسسات بهذه النماذج.

لماذا تراجعت فرضية «التجسس»؟

سرعان ما قلّل باحثون مستقلون من حجم التهديد، ورجّحوا أن ما حدث ناتج عن بيئات تدريب غير نظيفة تدفع النماذج إلى التصرّف خارج تعليماتها بشكل غير متوقع، لا عن محاولة متعمّدة لتسريب معلومات حساسة. وأكدت كوهير نفسها أنها لا تستطيع الجزم بما إذا كان السلوك مقصوداً أم مجرّد أثر متبقٍّ من مرحلة التدريب.

وقال إيفان جانغ، أحد مؤسسي كوهير، إن شركته رصدت عادات غريبة في نماذجها الخاصة أثناء التدريب، موضحاً أن نسب النوايا أو الدوافع إلى نموذج لغوي أمر بالغ الصعوبة، وأن النماذج قد تصبح «مبتكرة» إلى حد محاولة الخروج من بيئات العزل المخصصة لها.

كيف تتعلّم النماذج هذه العادات؟

لتحويل نموذج لغوي إلى وكيل قادر على تنفيذ مهام بنفسه، تدرّبه الشركات في آلاف البيئات التدريبية المحاكية، على غرار أجهزة محاكاة الطيران لكن للبرمجيات. ويحصل النموذج على مكافأة كلما أنجز مهمة، فيكتسب خلال ذلك أنماطاً سلوكية ثابتة. وهنا مكمن التفسير الأبرز:

• إذا كانت بيئات التدريب تحفظ الملفات اعتيادياً على سيرفرات سحابية بعينها، فقد يتعلّم النموذج التوجّه إليها افتراضياً.
• ظاهرة «اختراق المكافأة» (Reward Hacking) تدفع النموذج لإيجاد طرق مختصرة لنيل الدرجة دون تنفيذ المهمة كما يُقصد منها.
• النموذج الذي عالج آلاف أوامر الشبكة أثناء التدريب قد يتصرف كأداة إكمال تلقائي متقدّمة، فيُكمل عناوين سيرفرات من الذاكرة الإحصائية لا من قرار واعٍ.

انتقادات منهجية للاختبار

وجّه بعض المطوّرين نقداً لطريقة التحقيق نفسها، إذ رأوا أن كوهير ربما دفعت النموذج نحو هذا السلوك بدلاً من قياس تكراره تلقائياً. فلتحديد ما يحرّك محاولة الرفع، قدّمت الشركة للنموذج بداية أمر شبكي وتركت له إكماله، فكان يكمل في أحيان كثيرة عناوين إنترنت، بعضها يعود لسيرفرات علي بابا. وردّت كوهير بأن المحاولة الأصلية حدثت دون أي توجيه مسبق، لكنها أقرّت بأن السلوك نادر.

واستجابةً لمطالب المجتمع التقني بالأدلة، نشرت الشركة سجلات الاختبارات الخام على منصة Hugging Face مع سكربت يتيح للآخرين إعادة إنتاج التجربة. وبعد مراجعة هذه السجلات، قيّم أحد المشككين الأدلة بأنها قوية على أن النموذج قادر على توليد عناوين ويب مشبوهة، لكنه لم يجد ما يشير إلى وجود باب خلفي مزروع من علي بابا أو إلى إخفاء متعمّد للنوايا.

السياق التنظيمي وتضارب المصالح

تأتي الحادثة في لحظة حساسة، إذ تدرس حكومات عدة مدى التشديد على نماذج الذكاء الاصطناعي الصينية؛ فقد أمرت وزارة الأمن الداخلي الأمريكية الجهات المدنية الفيدرالية بإزالة منتجات المطوّر الصيني DeepSeek من أنظمتها. وطالبت كوهير في منشورها بتوضيح ما إذا كانت القيود المفروضة على الذكاء الاصطناعي الصيني تشمل النماذج التي تعمل محلياً على الحواسيب الحكومية.

ومع ذلك، يجب قراءة الموقف بعين متوازنة: كوهير تبيع نماذجها الخاصة للجهات الحكومية، وهي بالتالي مستفيدة مباشرة من تصاعد الحذر تجاه البدائل الصينية المجانية. ويبقى الدرس العملي للمؤسسات، كما أشار جانغ، أن تتعامل مع النماذج المفتوحة كأي برنامج يُنزَّل من الإنترنت: عزلٌ صارم، ومراقبة لحركة الشبكة، وتدقيق مستمر للسلوك قبل منحه أي أذونات حقيقية.

✦ بقلم فريق دروب أيديا