كيف تُعيق قيود الذكاء الاصطناعي عمل باحثي الأمن الهجومي

حين تتحول الحماية إلى عائق

في سعيها الحثيث لمنع إساءة استخدام نماذجها، أقامت شركات الذكاء الاصطناعي الكبرى منظومة متكاملة من الضوابط والقيود. غير أن هذه الحواجز التي صُمِّمت في الأصل لإبعاد المهاجمين الخبثاء، باتت اليوم تُعيق عمل المدافعين الشرعيين عن الشبكات وباحثي الأمن الهجومي الذين يُشكّلون خط الدفاع الأول أمام التهديدات الإلكترونية.

برامج الوصول المقيّد: حلٌّ أم مشكلة جديدة؟

طوّرت كلٌّ من Anthropic وOpenAI برامج خاصة تُتيح للباحثين الأمنيين المتحقق منهم الوصول إلى النماذج بقيود أخف وطأة؛ إذ أطلقت OpenAI برنامج "Trusted Access for Cyber"، فيما أنشأت Anthropic "Cyber Verification Program". بيد أن الانضمام إلى هذه البرامج ليس مضموناً لجميع الباحثين، وكثير من المؤسسات لا تزال خارج نطاقها.

وقد استقطبت هذه الضوابط انتقادات واسعة من المجتمع الأمني. فقد صرّح مارك داود، الباحث الأمني المخضرم الذي قضى عقوداً في اكتشاف ثغرات «يوم الصفر» وبيعها للحكومات الغربية، بأنه لا يرتاح لفكرة أن «شركات كبرى عشوائية تتخذ قرارات تحكّمية بشأن ما هو آمن في مجال الأمن وما ليس كذلك».

الأداة الواحدة بين الهجوم والدفاع

يكشف كريس أنلي، كبير العلماء في شركة NCC Group الاستشارية، عن تناقض جوهري في طبيعة هذه القيود. فطلب توجيهات لاستغلال ثغرة برمجية ما هو في الوقت ذاته خطوة أساسية للتحقق من خطورتها وضرورة إصلاحها، وخطوة محتملة لاستغلالها بصورة خبيثة.

يقول أنلي: «الأمر يشبه المطرقة تماماً — لا يمكنك بناء منزل بدونها، لكنها في الوقت ذاته سلاح لا يمكن الفصل بين وجهيه». ويضيف أن قيود النماذج تحول أحياناً دون الإجابة على أسئلة بالغة الأهمية لعمل المدافعين، مما يضطر هو وزملاءه إلى اللجوء لنماذج مفتوحة المصدر خالية من أي قيود.

مخاوف أعمق من مجرد القيود

لا تقتصر التحديات على صعوبة الحصول على إجابات من النماذج؛ إذ يبرز بُعد آخر لا يقل أهمية، وهو مخاطر تسريب البيانات الحساسة. يوضح باولو ستانيو، مدير التقنية في شركة Crowdfense المتخصصة في اكتشاف الثغرات وبيعها للجهات الحكومية، أنه وفريقه يتجنبون تغذية النماذج السحابية بأي بيانات تتعلق بالثغرات أو أدوات الاستغلال، خشية تسرّبها أو دمجها في بيانات التدريب المستقبلية. لذا، يلجؤون حصراً إلى النماذج مفتوحة المصدر التي تعمل محلياً حين يتعلق الأمر بهذا الجانب الحساس من عملهم.

ويذهب ستانيو إلى أبعد من ذلك في انتقاده، إذ يرى أن شركات الذكاء الاصطناعي «تتعامل مع عملائها كأطفال يحتاجون إلى وصاية» من خلال برامجها المقيّدة وضوابطها المشددة.

الاتساق المفقود داخل البرامج الموثوقة

حتى الباحثون المنضمون رسمياً إلى برامج الوصول الموسّع لا يسلمون من الإحباط. يصف كريس تومسون، الرئيس التنفيذي لشركة RemoteThreat ومؤسس مؤتمر Offensive AI Con، تجربته مع النماذج الحدودية بأنها تتسم بعدم الاتساق الملحوظ؛ فالضوابط تعمل بطريقة مختلفة من يوم لآخر وبلا قواعد ثابتة.

ويلخّص تومسون الأثر العملي لهذا الواقع قائلاً: «تجد نفسك تُنفق وقتاً طويلاً في التفاوض مع النموذج بدلاً من التركيز على صميم البرنامج الأمني. بدلاً من تحليل الثغرة والتفكير في مدى قابليتها للاستغلال، تجد نفسك تبحث عن سبب تضارب النتائج أو الإفراط في تعقيم المخرجات».

باحثون يرسمون حدوداً بأنفسهم

في المقابل، ثمة باحثون لا يرون في هذه القيود عائقاً حقيقياً، ليس لأنها غير موجودة، بل لأنهم يضعون حدوداً خاصة بهم. يقول جوزيبي كالي، الباحث المتخصص في اكتشاف ثغرات يوم الصفر، إنه يوظّف الذكاء الاصطناعي في الهندسة العكسية وفهم الأكواد البرمجية وبناء الأدوات المساعدة، لكنه يُبقي عملية اكتشاف الثغرات وتطوير أدوات الاستغلال حكراً على نفسه.

يختتم كالي بعبارة لافتة: «أنا غيور على ثغراتي، وأحب هذه اللعبة أكثر من أن أدع النماذج تلعبها نيابةً عني».

الخلاصة: معادلة لم تكتمل بعد

تكشف هذه التجارب المتباينة عن فجوة حقيقية لم تُحسم بعد بين أهداف شركات الذكاء الاصطناعي في الحدّ من المخاطر، وبين احتياجات مجتمع الأمن الإلكتروني الذي يعتمد على المنطق الهجومي ذاته لحماية الأنظمة. ويبدو أن الحل يتشكّل ميدانياً بعيداً عن القرارات المركزية: نماذج مفتوحة المصدر، وبيئات عمل محلية، وباحثون يرسمون لأنفسهم حدود الاستخدام بناءً على متطلبات مهنتهم لا على ما تسمح به القيود المفروضة.

✦ بقلم فريق دروب أيديا