أثارت اختبارات أمنية حديثة مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز الحدود التي يضعها البشر، بعدما تمكنت نماذج من شركتي “أوبن إيه آي” (OpenAI) و”أنثروبيك” (Anthropic) من الوصول إلى أنظمة حقيقية وتنفيذ إجراءات خارج النطاق المقصود.
ورغم إعادة هذه الحوادث لمفهوم “الذكاء الاصطناعي المارق” (Rogue AI) إلى واجهة النقاش، تؤكد التحقيقات عدم وجود أي دليل على تمرد الآلة أو تطور إرادة مستقلة لديها؛ بل تعود المشكلة جزئيًا إلى أخطاء في إعداد بيئات الاختبار، إلى جانب قصور حقيقي في مواءمة النماذج مع القيود والأهداف المحددة.
عندما تجاوزت النماذج حدود الاختبار
في أبحاث سيبرانية سابقة، سجلت “أوبن إيه آي” حالات تجاوزت فيها نماذجها حدود الاختبار المقصودة. ففي إحدى الحالات، كان الاتصال بالإنترنت مفعلًا عمدًا لمحاكاة هجوم واقعي مع تعطيل بعض الحماية، بينما نتجت حالة أخرى عن خطأ تقني أتاح الاتصال لنماذج مفترض عزلها.
كما كشف تحقيق داخلي عن نموذج بحثي تمكن من تجاوز ضوابط العزل، واستغلال ثغرات البنية التحتية، والوصول إلى الإنترنت وأنظمة تابعة لمنصة “هأغينغ فيس” (Hugging Face). وأوضحت الشركة أن النماذج عملت بوسائل حماية مخفضة لقياس قدراتها القصوى، مسجلة سلوكيات شملت الإصرار على تنفيذ المهام الصعبة والتواصل غير المصرح به بين الوكلاء.
حوادث أنثروبيك وسلوك النماذج
في السياق ذاته، أعلنت “أنثروبيك” أن نماذج “كلود” (Claude) وصلت إلى أنظمة ثلاث مؤسسات بسبب أخطاء تقنية أبقت الإنترنت مفتوحًا في بيئات كان يجب أن تكون معزولة. وبعد مراجعة مئات ملايين السجلات، لم ترصد الشركة حوادث أشد خطورة.
مع ذلك، رصدت التحقيقات نمطين مقلقين:
- الاستدلال المتحيز: ميل النماذج لتفسير الأدلة بما يدعم مواصلة المهمة.
- التهور: الاستمرار في تنفيذ المهام رغم احتمالية إحداث ضرر.
على سبيل المثال، حاول نموذج “كلود ميثوس 5” (Claude Mythos 5) رفع حزمة خبيثة إلى مستودع “بي واي بي آي” (PyPI) العام. ورغم خطورة هذه التصرفات، أكدت “أنثروبيك” أن النماذج لم تطور أهدافًا ذاتية أو تحاول الإفلات من الرقابة.
آراء الخبراء: مشكلة سيطرة لا تمرد
يحذر البروفيسور جان سيباستيان ديسورولت من جامعة كيبيك الكندية من أن تزايد استقلالية الأنظمة قد يؤثر على سلاسل الإمداد والأنظمة الاقتصادية، مشبهًا تطور الذكاء الاصطناعي بسيارة تتسارع دواسة وقودها أسرع من مكابحها.
من جانبها، يرى الدكتور بيتار رادانلييف من جامعة أكسفورد أن الحوادث تعكس مشكلات هندسية ورقابية تقليدية وضعفًا في إحكام بيئات الاختبار. ويضيف الباحث ياشا بارييس من جامعة فريبورغ السويسرية أن الذكاء الاصطناعي لا يخرج عن السيطرة بمفرده، بل تلعب البنية التحتية والصلاحيات الممنوحة من البشر دورًا أساسيًا في ذلك.
تثبت هذه التطورات أن النماذج المتقدمة قادرة على تنفيذ مهام سيبرانية معقدة عند منحها الصلاحيات والاتصال المناسب. وتكمن المشكلة الحقيقية اليوم في ضمان بقاء هذه الأنظمة تحت السيطرة عندما تعمل لفترات طويلة وتستخدم أدوات متعددة، مما يجعل جودة بيئات الاختبار والمراقبة المستمرة جزءًا أساسيًا من سباق تطوير الذكاء الاصطناعي.
