ثغرة في نماذج Claude تكشف تحديات ضبط المحتوى في الذكاء الاصطناعي

تفرض شركة «Anthropic» ضوابط استخدام صارمة على نماذجها الذكية من عائلة «Claude»، تمنع صراحةً إنتاج المحتوى الجنسي الفاضح أو الانخراط في محادثات ذات طابع إباحي. غير أن سلسلة من الاختبارات الحديثة أثبتت أن بعض هذه النماذج — وتحديداً الإصدارات الأقدم — يمكن دفعها لتجاوز هذه القيود بسهولة مفاجئة، ما يفتح نقاشاً واسعاً حول مدى فعالية آليات الحماية في أنظمة الذكاء الاصطناعي التوليدي.

كيف جرى تجاوز الضوابط؟

أظهرت التجارب أن نموذج «Opus 4.6» الصادر مطلع هذا العام استجاب لطلبات إنتاج محتوى محظور في جميع المحاولات المباشرة تقريباً، دون الحاجة إلى جهد كبير للالتفاف على القيود. كما تبيّن أن نماذج أخرى أقدم مثل «Opus 3» و«Haiku 4.5» تشاركه هذا الضعف نفسه.

وقد شارك باحث مستقل من المملكة المتحدة، فضّل عدم الكشف عن هويته، أسلوباً يعتمد على المحادثات المتعددة الأدوار لدفع النموذج تدريجياً نحو إنتاج المحتوى المحظور. وتقوم الفكرة على بدء سيناريو تخيّلي بريء، ثم الضغط على النموذج ليتعامل مع الشخصيات بطريقة «متسقة»، وتصوير أي تحفّظ لديه على أنه تحيّز أو موقف رجعي، وصولاً إلى انتزاع تنازلات متتالية تدفعه إلى محتوى أكثر صراحة.

فجوة بين القواعد والسلوك الفعلي

تكمن أهمية هذه النتائج في أنها تكشف تبايناً بين ما تعلنه الشركة من قيود، وبين السلوك الحقيقي للنماذج التي لا تزال متاحة للاستخدام. فرغم صدور إصدارات أحدث مقاومة لهذه الثغرة (من «Opus 4.7» حتى «Opus 5»)، فإن الشركة لم توقف تشغيل النماذج الأقدم، التي تبقى متاحة عبر واجهة برمجة التطبيقات الخاصة بها وعبر خدمات خارجية مثل «Azure Foundry» و«Amazon Bedrock».

موقف الشركة

أوضحت «Anthropic» أن حالات الاستخدام ذات الطابع الرومانسي أو الجنسي نادرة للغاية، إذ تمثّل أقل من 0.1% من إجمالي المحادثات وفق أبحاثها. وأقرّت الشركة في الوقت نفسه بأن المستخدمين قد يوجّهون سيناريوهات لعب الأدوار نحو استجابات غير لائقة، وهو تحدٍّ معروف تشترك فيه معظم شركات القطاع.

وأكدت الشركة أنها تعمل باستمرار على تحسين ضوابطها مع كل إصدار جديد، مشيرةً إلى أن حالات المحتوى الجنسي للبالغين لا تعكس ثغرات أوسع، خصوصاً في المجالات عالية الخطورة التي تخضع لطبقات حماية مستقلة.

مخاوف تتعلق بالقاصرين والامتثال القانوني

من أبرز المخاوف التي أثارها الباحث احتمال استخدام الأطفال والمراهقين لهذه النماذج في سلوكيات غير مناسبة. وعلى الرغم من أن هذا النوع من المحتوى أقل خطورة بكثير من الثغرات المرتبطة بالهجمات السيبرانية أو الأسلحة البيولوجية، فإنه يحمل مخاطر امتثال قانوني متنامية على شركات الذكاء الاصطناعي.

• يشترط اتفاق استخدام «Claude» أن يكون المستخدم فوق سن الثامنة عشرة، لكن استطلاعات حديثة تُظهر أن نسبة من المراهقين يستخدمونه بالفعل.
• بدأت حكومات عدة بفرض قيود على التفاعلات الجنسية بين روبوتات الدردشة والقاصرين.
• أقرّت ولاية كولورادو قانوناً يُلزم مشغّلي الذكاء الاصطناعي بتقدير أعمار المستخدمين ومنع إنتاج محتوى فاضح إذا كان المستخدم قاصراً.

وقد تثير سهولة تجاوز هذه الضوابط تساؤلات حول ما إذا كانت حماية «Anthropic» تستوفي معايير «التدابير الممكنة تقنياً» المنصوص عليها في مثل هذه القوانين.

استخدام واسع رغم التقادم

رغم أن هذه النماذج لم تعد الأحدث، فإنها لا تزال تحظى باستخدام كبير. فقد سجّل «Opus 4.6» نحو 1.17 مليون طلب برمجي و46 مليار رمز في يوم واحد خلال شهر أغسطس، بينما بلغ «Haiku 4.5» في ذروته 5 ملايين طلب و39 مليار رمز. هذه الأرقام تؤكد أن أي ثغرة في هذه النماذج ليست مسألة نظرية، بل تمسّ ملايين التفاعلات اليومية الفعلية.

خلاصة

تسلّط هذه الحادثة الضوء على معضلة جوهرية في أنظمة الذكاء الاصطناعي التوليدي: صعوبة فرض حظر صارم على محتوى يختلف مع كل استجابة. وبينما تواصل الشركات تطوير حواجزها الأمنية، يبقى التحدي قائماً في الموازنة بين المرونة الإبداعية للنماذج والحاجة إلى ضوابط موثوقة تحمي المستخدمين، ولا سيّما القاصرين منهم.

✦ بقلم فريق دروب أيديا