FlashProve: نظام من Anthropic للتحقّق من هوية نماذج الذكاء الاصطناعي

عندما ترسل سؤالاً إلى نموذج ذكاء اصطناعي متقدّم وتتلقّى إجابة، هناك افتراض ضمني تبنيه دون تفكير: أن الإجابة جاءت فعلاً من النموذج الذي اخترته. لكن ما الذي يضمن ذلك تقنياً؟ في الواقع لا شيء تقريباً، سوى ثقة المستخدم بمزوّد الخدمة. هذه الفجوة الصامتة هي ما تحاول شركة Anthropic معالجتها عبر مشروع بحثي جديد أعلنته باسم FlashProve، وهو نظام مفتوح المصدر يهدف إلى تقديم إثبات رياضي قابل للتحقّق بأن مخرجاً معيّناً صادر عن نموذج بعينه.

ما هو "الاستدلال القابل للإثبات"؟

يقوم FlashProve على مفهوم يسمّيه الباحثون "الاستدلال القابل للإثبات" (Provable Inference). الفكرة أن يرافق كل مخرج دليل تشفيري يثبت ارتباطه بنموذج محدّد، بطريقة يمكن لأي طرف أن يتحقّق منها بشكل مستقل.

التشبيه الأقرب هو التوقيعات التشفيرية في البريد الإلكتروني، التي تتيح للمستقبِل التأكّد من أن الرسالة صادرة فعلاً عن الجهة التي تدّعي إرسالها. الفارق المهم هنا أن النظام مصمّم ليصمد أمام محاولات التمويه حتى لو جاءت من الجهة التي بنت النموذج وتشغّله بنفسها، وهو شرط أساسي لأي ضمانة ذات معنى حقيقي.

المشكلات التي يعالجها

يشير الباحثون إلى عدد من السيناريوهات التي يصبح فيها التحقّق من هوية النموذج أمراً عملياً لا نظرياً:

• استبدال النموذج بصمت: أن تُمرّر شركة ما طلبات المستخدمين إلى نموذج أرخص وأقل قدرة لتقليص التكاليف، بينما يعتقد المستخدم أنه يستعمل النموذج الأعلى مستوى الذي يدفع مقابله.
• تحسين النتائج اصطناعياً: العكس ممكن أيضاً، أي استخدام نموذج أقوى وأغلى خلال اختبارات القياس المعيارية لإظهار أداء أفضل من الواقع.
• التحقّق من ادّعاءات أطراف ثالثة: قد يقول مطوّر إن مكتبته البرمجية خضعت لفحص أمني بواسطة نموذج متقدّم في الأمن السيبراني، أو تعلن شركة أن خطة عملها حصلت على مراجعة من نموذج متخصّص. السؤال البسيط الذي يطرحه الباحثون: كيف يتحقّق المستخدم من هذه الادّعاءات؟

في غياب آلية تحقّق، تبقى هذه التصريحات مجرّد وعود تسويقية غير قابلة للفحص، وهو أمر يزداد حساسية مع دخول النماذج في قرارات أمنية ومالية ومهنية.

كيف يعمل من دون كشف أسرار النماذج؟

يطلب النظام من مختبرات الذكاء الاصطناعي نشر "بصمة" (Fingerprint) لكل نموذج تُطلقه. هذه البصمة يمكن مطابقتها لاحقاً مع المخرجات والتحقّق منها تشفيرياً.

النقطة الأكثر أهمية من الناحية التجارية أن البصمة لا تكشف أوزان النموذج، أي القيم الرقمية الداخلية التي تحدّد سلوكه، والتي تحرص شركات مثل Anthropic وOpenAI على إبقائها مغلقة بوصفها أصلها الأكثر قيمة. هذا يعني أن النظام قابل للتطبيق على النماذج التجارية المغلقة وليس المفتوحة فقط، وهو ما كان سيحدّ من جدواه لو لم يكن متاحاً.

كذلك صُمّم النظام ليكون خفيفاً من حيث الحسابات، بحيث يمكن تنفيذ عملية التحقّق على جهاز المستخدم محلياً دون الحاجة إلى بنية تحتية ضخمة أو العودة إلى طرف مركزي.

مشروع بحثي مفتوح لا منتج جاهز

أصدرت Anthropic مع الإعلان مواصفة تقنية مفصّلة وشيفرة عملية لعدد من مكوّنات النظام، متاحة علناً على منصّة GitHub برخصة مفتوحة المصدر. لكن الشركة كانت واضحة في أن العمل لا يزال في مرحلة وسيطة.

لا توجد خطط حالية لنشر FlashProve أو تشغيله في Anthropic أو في أي مختبر آخر، ويصف الباحثون ما نشروه بأنه مشاركة لتقدّم جزئي لا أجندة بحثية مكتملة. الهدف المعلن هو أن يطّلع آخرون على العمل ويبنوا عليه ويحسّنوه، وهو منطق يتماشى مع طبيعة المعايير التشفيرية التي تستمد قوّتها من المراجعة العامة الواسعة لا من التطوير المنغلق.

لماذا يستحق هذا الاهتمام؟

مع تزايد اعتماد المؤسسات على النماذج اللغوية في مهام فعلية، يتحوّل سؤال "من أنتج هذا المخرج؟" من ترف تقني إلى عنصر في سلسلة الثقة. طبقة تحقّق قياسية مفتوحة من شأنها أن تخدم أطرافاً عدّة في الوقت نفسه:

• المستخدمين، بمنحهم تأكيداً بأنهم يحصلون على ما يدفعون مقابله.
• المؤسسات، عبر إمكانية تدقيق مخرجات النماذج ضمن متطلّبات الامتثال.
• الباحثين، بتحسين موثوقية نتائج الاختبارات والمقارنات المعيارية.
• الجهات التنظيمية، بتوفير أساس تقني للمحاسبة بدل الاعتماد على التصريحات.

قد يبدو FlashProve تفصيلاً هندسياً دقيقاً، لكنه يلامس مسألة جوهرية في بنية سوق الذكاء الاصطناعي الحالي: معظم الضمانات المقدّمة للمستخدم اليوم قائمة على الثقة لا على الإثبات. وأي خطوة تنقل جزءاً من هذه الثقة إلى أرضية رياضية قابلة للفحص تستحق المتابعة، حتى لو كانت في بدايتها.

✦ بقلم فريق دروب أيديا