Abliteration.ai: خدمة تجارية لإزالة قيود الأمان من نماذج الذكاء الاصطناعي

في تطوّر يعيد إشعال النقاش حول أمان الذكاء الاصطناعي، أصبح الوصول إلى نماذج قوية مفتوحة الأوزان — بعد نزع ضوابط الأمان منها ورفضها تنفيذ المهام الضارة — أسهل من أي وقت مضى. فقد نجحت شركة ناشئة تُدعى Abliteration.ai في تحويل تقنية كانت حكراً على أوساط المطوّرين إلى منتج تجاري متاح للجميع عبر المتصفح أو واجهة برمجة التطبيقات.

ما هي تقنية «Abliteration»؟

يشير مصطلح «Abliteration» إلى أسلوب يهدف إلى إلغاء ميل النموذج اللغوي إلى رفض الطلبات التي يعتبرها ضارة أو خطيرة. وليست هذه التقنية جديدة؛ إذ يعمل الباحثون والمطوّرون منذ سنوات على إزالة آليات الرفض من النماذج المفتوحة، وتستضيف منصة «Hugging Face» آلاف النماذج المعدّلة بهذه الطريقة.

غير أن الجديد هذه المرّة هو نقل هذه الممارسة من الخفاء إلى السوق المفتوحة. فقد تأسست الشركة أواخر العام الماضي وسُجّلت رسمياً في مارس، وهي تستضيف نسخاً معدّلة من نماذج بارزة، من بينها نموذج GLM-5.3 الذي أطلقته شركة Z.ai مؤخراً، ما يوفّر على المستخدمين عناء تنزيل النماذج وتأمين موارد الحوسبة اللازمة لتشغيلها.

منطق الأمن الهجومي مقابل المخاطر

تقول الشركة إن هدفها تمكين الآخرين من إجراء أعمال «الأمن الهجومي واختبار الاختراق واختبار الوكلاء الذكية التي ترفض النماذج الأخرى القيام بها». ويستند هذا المنطق إلى قاعدة معروفة في مجال الأمن السيبراني: لا يمكنك الدفاع ضد سلوك يتعذّر عليك محاكاته، والنموذج الذي يرفض كتابة شيفرة استغلال فعّالة لا يفيد فِرق الدفاع في تدريبها على مواجهة المهاجمين.

لكن المشكلة أن هذه القدرات نفسها تسهّل تنفيذ مهام خطيرة أخرى. فقد تمكّن مختبرو التقنية من إنشاء حساب مجاني بسهولة، ثمّ طلبوا من النموذج المعدّل كتابة برنامج بلغة بايثون لسرقة كلمات المرور المخزّنة في متصفح كروم، إضافةً إلى بروتوكول مفصّل لزراعة مُمرض بشري خطير منزلياً — وقد استجاب النموذج للطلبين دون تردّد.

تحذيرات من مخاطر حقيقية

يحذّر خبراء الأمان من أن إتاحة هذه النماذج على نطاق واسع قد يفضي إلى أضرار فعلية. ويرى أندرو يون، رئيس الأبحاث في منظمة CivAI غير الربحية المعنية بأمان الذكاء الاصطناعي، أن إزالة الضوابط تحوّل النموذج فعلياً إلى ما يشبه «الشخصية المعادية للمجتمع» التي تستجيب لأي طلب مهما كان.

ويتوقّع يون أن نبدأ قريباً بمشاهدة نماذج معدّلة تُستخدم لأغراض ضارة. ويقترح، في مقال رأي حديث، حلولاً حكومية تشمل:

• إلزام مزوّدي الخدمة بتشغيل مصنّفات لرصد وحظر الأنشطة السيبرانية والبيولوجية الخطيرة.
• مطالبة الشركات التي تؤجّر وصولاً مباشراً لوحدات المعالجة الرسومية المتقدّمة بالتحقّق من هوية العملاء.
• رفض منح الوصول عند وجود شبهة سوء استخدام خطير.

ضوابط محدودة وأسئلة عالقة

تُقرّ الشركة بأنها ما زالت في مرحلة مبكرة من تحديد مسؤولياتها. فهي تتيح للعملاء طبقة إشراف يضيفون عبرها ما يشاؤون من الضوابط، فيما تحتفظ المنصّة ببعض القيود البسيطة — إذ تعذّر خلال الاختبار الحصول على تعليمات تتعلق بالانتحار. ويقول ديفون، أحد مؤسّسي الشركة، إنه يعمل على إضافة المزيد من الضوابط للحدّ من العنف.

ولم تعتمد الشركة أي إجراءات لمعرفة العميل (KYC) باستثناء تسجيل بطاقة الائتمان المستخدمة في الشراء، معترفةً بأن مسألة تحديد من يستحق الوصول تظلّ معقّدة.

الديمقراطية أم الخطر؟

يجادل مؤسّس الشركة بأن إتاحة الوصول إلى النماذج غير المقيّدة هو أفضل أشكال الدفاع، لأنه يمكّن المدافعين من محاكاة سلوك الجهات الخبيثة والتحرّك بالسرعة نفسها. ويؤكّد أن بين عملاء الشركة شركات ناشئة في المملكة المتحدة وأوروبا متخصّصة في اختبار اختراق البنوك وشركات الطيران والبنى التحتية الحيوية.

وتبقى المعضلة الجوهرية قائمة أمام الصناعة والحكومات: إذا كان بإمكان أي شخص إزالة ضوابط النموذج، فهل تجعل إتاحة النسخة المعدّلة للجميع الإنترنت أكثر أماناً أم أكثر خطورة؟ سؤال ما يزال دون إجابة حاسمة.

✦ بقلم فريق دروب أيديا