لماذا يُعدّ كشف المحتوى المولّد بالذكاء الاصطناعي أصعب مما نظن؟

لم تعد مشكلة الثقة على الإنترنت مقتصرة على امتلاء منصات التواصل الاجتماعي بمحتوى رديء منتَج بالذكاء الاصطناعي. فالنصوص والصور المولّدة آلياً باتت تتسلّل اليوم إلى طلبات التوظيف، ومراجعات المنتجات، بل حتى إلى مطالبات التأمين، ما جعل المنصات والمستخدمين على حدّ سواء في حيرة من أمرهم للتمييز بين ما هو أصيل وما هو مصطنع.

طبقة ثقة جديدة للإنترنت

خلال العامين الماضيين، ظهرت مجموعة من الشركات الناشئة التي تحاول أن تكون بمثابة «طبقة الثقة» التي يحتاجها الفضاء الرقمي، ومن بينها شركة «بانجرام» (Pangram). وقد نجحت هذه الشركة مؤخراً في جمع تسعة ملايين دولار لتطوير نظامها الخاص بكشف المحتوى المولّد بالذكاء الاصطناعي، كما أبرمت شراكة لافتة مع منصة النشر «سَبستاك».

بموجب هذه الشراكة، تستخدم «سَبستاك» تقنية «بانجرام» لإطلاع القرّاء على أيّ من كتّابهم المفضّلين يستعينون بالذكاء الاصطناعي في كتابة نشراتهم البريدية. وإلى جانب ذلك، أطلقت الشركة أداة جديدة متخصّصة في كشف الصور المولّدة آلياً، في خطوة توسّع نطاق خدماتها لتشمل النصوص والوسائط البصرية معاً.

معضلة أصعب من «حقيقي أم مزيّف»

يرى ماكس سبيرو، المؤسّس المشارك والرئيس التنفيذي لشركة «بانجرام»، أنّ مسألة كشف المحتوى المولّد بالذكاء الاصطناعي أكثر تعقيداً بكثير من مجرّد سؤال ثنائي بسيط: «حقيقي أم مزيّف؟». فالواقع اليوم يقع في منطقة رمادية واسعة، إذ يصعب رسم خطّ فاصل واضح بين المحتوى الذي أُنشئ بمساعدة الذكاء الاصطناعي وذلك الذي وُلّد بالكامل بواسطته.

هذا التمييز الدقيق هو جوهر التحدّي الذي تواجهه أدوات الكشف. فكثير من الكتّاب والمحترفين يستعينون بأدوات الذكاء الاصطناعي في مراحل معيّنة من عملهم، كالتدقيق أو صياغة الأفكار أو تحسين اللغة، من دون أن يعني ذلك أنّ النصّ برمّته مصطنع. وهنا تكمن صعوبة بناء أنظمة قادرة على تقديم أحكام عادلة ودقيقة بدلاً من تصنيفات قاطعة قد تكون مضلّلة.

لماذا تتزايد أهمية أدوات الكشف؟

مع تسارع انتشار المحتوى المولّد آلياً، تتنامى الحاجة إلى آليات موثوقة للتحقّق، خصوصاً في المجالات التي تترتّب عليها قرارات مهمة. ويمكن تلخيص أبرز الميادين التي تبرز فيها هذه الحاجة فيما يلي:

• التوظيف: حيث تتضمّن طلبات العمل والسير الذاتية أحياناً نصوصاً مصاغة بالكامل بالذكاء الاصطناعي.
• مراجعات المنتجات: التي قد تُغرَق بتقييمات مزيّفة تُضلّل المستهلكين وتشوّه سمعة المنتجات.
• مطالبات التأمين: إذ يمكن أن يُساء استخدام النصوص والصور المولّدة في تقديم بيانات غير صحيحة.
• النشر الرقمي: حيث يرغب القرّاء في معرفة مدى الأصالة البشرية للمحتوى الذي يتابعونه.

بين الشفافية والحكم القاطع

الهدف الأساسي من هذه التقنيات ليس معاقبة استخدام الذكاء الاصطناعي بحدّ ذاته، بل توفير قدر أكبر من الشفافية للمستخدمين ومنحهم القدرة على اتخاذ قرارات مستنيرة. فالمعرفة بأنّ نصّاً ما قد كُتب بمساعدة الذكاء الاصطناعي تختلف جذرياً عن اتّهام كاتبه بالتحايل، وهذا التوازن الدقيق هو ما تسعى الشركات مثل «بانجرام» إلى ترسيخه.

غير أنّ التحدّي التقني يظلّ قائماً؛ فمع تطوّر نماذج الذكاء الاصطناعي وتحسّن قدرتها على محاكاة الأسلوب البشري، تصبح مهمة أدوات الكشف أكثر تعقيداً، ما يفرض على مطوّريها تحديث خوارزمياتهم باستمرار لمواكبة هذا السباق المتسارع بين التوليد والكشف.

مستقبل الثقة الرقمية

يبدو أنّ الحفاظ على الثقة في الفضاء الرقمي سيصبح أحد أبرز التحدّيات في المرحلة المقبلة. فبقدر ما تفتح أدوات الذكاء الاصطناعي آفاقاً هائلة للإبداع والإنتاجية، فإنها تثير تساؤلات جوهرية حول الأصالة والمصداقية. ويظلّ النجاح الحقيقي مرهوناً بقدرة الشركات على تطوير حلول متوازنة تحترم الابتكار من جهة، وتصون حقّ المستخدمين في المعرفة والشفافية من جهة أخرى.

✦ بقلم فريق دروب أيديا