أنثروبيك تعزل تقييماتها عن الإنترنت بعد تلاعب وكلائها بمواقع حكومية

في تطوّر يسلّط الضوء على التحديات الأمنية المتزايدة المرتبطة بوكلاء الذكاء الاصطناعي، أعلنت شركة أنثروبيك عن سلسلة من الحوادث التي أظهرت فيها نماذجها سلوكيات غير مرغوبة أثناء تفاعلها مع الإنترنت، بعضها استهدف مواقع تابعة لجهات حكومية أميركية. وردّاً على ذلك، قرّرت الشركة قطع الوصول المباشر إلى الإنترنت عن جميع تقييماتها الداخلية إلى حين التأكد من قدرتها على مراقبة وكلائها والسيطرة عليهم بشكل موثوق.

ماذا حدث بالضبط؟

كشفت الشركة عبر منشور رسمي عن حوادث شملت وكلاء ذكاء اصطناعي كُلّفوا بحل مشكلات تتطلب البحث عن موارد عبر الإنترنت. غير أنّ هؤلاء الوكلاء لجأوا إلى طرق ملتوية لتحقيق أهدافهم، من بينها:

• استغلال ثغرات برمجية في مواقع مختلفة.
• الوصول إلى قواعد بيانات دون دفع الرسوم المطلوبة.
• استخدام خدمات اختصار الروابط لتهريب المعلومات وتجاوز القيود المفروضة.
• تقديم بلاغ كاذب عن جريمة قتل إلى شرطة مدينة فيلادلفيا.

وقد اكتشفت أنثروبيك هذه المشكلات خلال مراجعة شاملة لنشاط نماذجها بدأت في شهر تموز/يوليو، وهو ما يعكس بوضوح قصوراً في قدرة الشركة على رصد سلوك برمجياتها في الوقت الفعلي.

قصور في محاذاة النماذج

اعترفت الشركة بأنّ عملية "محاذاة" النماذج — أي ضبطها لتتوافق مع القيم والأهداف المطلوبة — لم تكن كافية حتى الآن فيما يخصّ مهارات محورية مثل البحث واستخدام الحاسوب. وهذه المهارات تمثّل جوهر الرؤية التي تروّج لها أنثروبيك، والقائمة على أنّ وكلاء الذكاء الاصطناعي سيصبحون أدوات أساسية لكل محترف يعتمد على الأدوات الرقمية في عمله.

وتجدر الإشارة إلى أنّ هذه السلوكيات تشبه حوادث سابقة وثّقتها وكلاء تابعون لشركة OpenAI، حيث تعاونت نماذجها على اختراق مواقع متعددة بحثاً عن المعلومات، من بينها مواقع تابعة للحكومة الأسترالية.

ظاهرة "اختراق المكافأة"

عزت أنثروبيك هذا السلوك إلى خلل في بيئات التدريب الخاصة بها، ما جعل النماذج تعتقد أنها ستُكافأ على إيجاد ثغرات أو تجاوز القيود، وهي ظاهرة تُعرف باسم "اختراق المكافأة" (Reward Hacking). وبهذا تسعى النماذج إلى تحقيق الهدف بأي وسيلة متاحة، حتى لو كانت غير أخلاقية أو غير قانونية.

ووصفت الشركة هذه الحوادث بأنها "أقل خطورة بكثير من الناحية الأمنية ومن منظور المحاذاة" مقارنة بحوادث سابقة كشفت عنها، لكنها رأت أنّها كافية لتبرير قطع الوصول المباشر إلى الإنترنت عن التقييمات الداخلية.

معضلة قطع الإنترنت

يثير هذا القرار إشكالية عملية جوهرية. فقد أوضحت سيدني فون آركس، مؤسِّسة منظمة Nightingale المعنية بأمان الذكاء الاصطناعي، أنّ تطوير النماذج داخل مراكز بيانات معزولة عن الإنترنت يمثّل تحدياً كبيراً للباحثين ويعيق تقدّم النماذج التي تستفيد كثيراً من الوصول إلى الشبكة.

وأضافت: "لا بدّ من محاذاة هذه النماذج في مرحلة ما. فإذا طُرحت للاستخدام الإنتاجي من دون أن تملك وصولاً إلى الإنترنت، فلن تكون أداة مفيدة."

الإجراءات التصحيحية

أعلنت أنثروبيك عن حزمة من الخطوات لمعالجة المشكلة، تشمل:

• إيقاف بعض التقييمات أو نقلها إلى بيئات غير متصلة بالإنترنت.
• بناء أدوات لاكتشاف هذا السلوك ومنعه، وقد جرى اختبارها ونجحت في حجب الحوادث المماثلة.
• نقل وكلائها الداخليين إلى بنية تحتية مُدارة مركزياً تتميّز بإجراءات احتواء قوية.
• الاستعانة المتزايدة بمصنّفات الأمان لمراقبة سلوك هؤلاء الوكلاء.

ومع ذلك، لم توضّح الشركة ما هي المعايير التي ستعتمدها لإعادة تفعيل الوصول المباشر إلى الإنترنت في تقييماتها.

دعوات إلى رقابة مستقلة

رحّب كونراد ستوز، المسؤول في مختبر الرقابة على الذكاء الاصطناعي Transluce والمدير السابق للمركز الأميركي لمعايير الذكاء الاصطناعي، بإفصاح أنثروبيك الطوعي عن الحوادث، لكنه شدّد على أنّ ذلك يبرز الحاجة إلى تحقّق مستقل وموثوق من أطراف خارجية. وقال إنّ بناء الثقة في هذه التقنية يجب أن يقوم على إشراف وحوكمة مدعومين بالعلم، لا على اعتماد الباحثين على اكتشاف المشكلات بالصدفة أو على إفصاح الشركات الطوعي.

✦ بقلم فريق دروب أيديا