الذكاء الفائق قادم: هل ينبغي أن نسمح بتطويره؟

تتحدث شركات الذكاء الاصطناعي منذ فترة عن «الذكاء الفائق» بوصفه أمراً حتمياً لا مفرّ منه، وكأن ظهور أنظمة أذكى من البشر مجرد مسألة وقت. لكن مع تصاعد الحوادث الأمنية المرتبطة بهذه التقنيات، بدأ سؤال جوهري يفرض نفسه على الطاولة: ماذا يحدث حين تصبح هذه الأنظمة أكثر قدرة منّا، ونعجز عن التحكم فيها بشكل موثوق؟

مخاطر تتجاوز حدود السيطرة

لم يعد الحديث عن مخاطر الذكاء الاصطناعي المتقدم مجرد سيناريوهات مستقبلية بعيدة. فالحوادث الأخيرة، ومنها خروقات أمنية أصابت بعض أكبر مختبرات الذكاء الاصطناعي في العالم، كشفت عن هشاشة الرهان القائم على أن هذه الأنظمة ستبقى تحت السيطرة دائماً. المشكلة الأساسية أن قدرات هذه النماذج تنمو بوتيرة تفوق قدرتنا على فهمها وضبطها.

هنا يبرز اتجاه فكري جديد يرى أن الأدوات التقليدية المستخدمة لضمان الأمان — مثل «المواءمة» (Alignment) و«الاحتواء» (Containment) — لم تعد كافية وحدها لإدارة المخاطر المتنامية.

دعوة راديكالية: أوقفوا التطوير

في حلقة حديثة من بودكاست «Equity» التابع لموقع TechCrunch، استضافت المذيعة ريبيكا بيلان الباحث ورجل الأعمال كونور ليهي، الذي يشغل اليوم منصب المدير التنفيذي في الولايات المتحدة لمنظمة «ControlAI» غير الربحية. تتبنّى هذه المنظمة رؤية أكثر جذرية من غيرها في ملف أمان الذكاء الاصطناعي.

فبدلاً من الاكتفاء بمحاولة ترويض هذه الأنظمة، تطالب المنظمة بوقف تطوير الذكاء الفائق من أساسه. ويرى ليهي أن المخاطر بلغت حداً يستحيل معه احتواؤها عبر استراتيجيات الأمان الحالية، وأن ما كان يبدو فكرة خيالية قبل أشهر قليلة بات اليوم مدعوماً بموجة من التشريعات الجديدة.

لماذا تغيّرت النبرة؟

يشير النقاش إلى تحوّل ملحوظ في المزاج العام تجاه هذا الملف. فبعد أن كانت الدعوات إلى الوقف الكامل تُعامل بوصفها موقفاً متطرفاً أو مبالغاً فيه، أصبح هناك زخم متزايد يدفع باتجاه تنظيم أكثر صرامة. ويمكن تلخيص أبرز الأسباب في النقاط التالية:

• تنامي قدرات النماذج بسرعة تتجاوز أدوات الرقابة المتاحة.
• وقوع حوادث أمنية فعلية كشفت عن ثغرات في أنظمة الحماية.
• صعوبة ضمان أن تظل الأنظمة الأكثر ذكاءً من البشر خاضعة للتحكم.
• ظهور مبادرات تشريعية تعكس قلقاً رسمياً متزايداً.

بين الحتمية والاختيار

يكمن جوهر الجدل في سؤال بسيط في صياغته، معقّد في تبعاته: هل تطوير الذكاء الفائق قدرٌ محتوم لا يمكن إيقافه، أم أنه اختيار بشري يمكن ضبطه أو تعليقه؟ يميل أنصار الوقف إلى الرأي الثاني، معتبرين أن السباق المحموم بين الشركات نحو بناء أنظمة أقوى يجب ألا يمضي دون ضوابط واضحة تحمي المجتمع من عواقب غير محسوبة.

في المقابل، ترى شركات كثيرة أن التقدم لا يمكن إيقافه، وأن الحل يكمن في تطوير أدوات أمان أفضل بالتوازي مع تطور القدرات، لا في تجميد البحث والابتكار.

خلاصة

يبقى ملف الذكاء الاصطناعي الفائق من أكثر الملفات إثارة للجدل في عالم التقنية اليوم. فبين من يراه فرصة تاريخية لتحقيق قفزات نوعية، ومن يحذّر من مخاطر وجودية لا رجعة فيها، يتضح أن مسألة الحوكمة والتنظيم لم تعد ترفاً بل ضرورة. والأرجح أن تشتد المعركة بين معسكري التسريع والتريّث خلال الأشهر المقبلة، خصوصاً مع دخول المشرّعين على خط النقاش بقوة متزايدة.

✦ بقلم فريق دروب أيديا