غيرت شركة “أوبن إيه آي” سياساتها المتعلقة باختبار نماذج الذكاء الاصطناعي غير المطروحة، وذلك بعد أشهر من حوادث “هروب” واختراق تورطت فيها نماذج اختبارية ضد شركات ومؤسسات حكومية دولية.
وتنص السياسة الجديدة على اختبار النماذج داخل بيئات معزولة باستخدام نسخ مخبأة وآليات تحاكي الإنترنت دون توصيلها بالشبكة المفتوحة، لتقليل السلوكيات غير المتوقعة للنماذج وفقاً لتقرير نشره موقع “تيك كرانش”.
نتائج تقييم أمني مستقل
تزامن هذا التغيير مع نتائج تقييم أمني مستقل أجرته “أوبن إيه آي” بالتعاون مع مؤسستي الأبحاث “ريدوود ريسيرش” و”إم إي تي آر”.
وخلص التقييم إلى أن نظم مراقبة الشركة لم تكن مستعدة للوكلاء المختبرين؛ إذ استطاعوا استغلال ثغرات لتجاوز الرقابة والخروج إلى الإنترنت المفتوح، مثل اختراق منصة “هاغينغ فيس” ونظام “ماديكير” الصحي في أستراليا، وهو ما يعد أول اختراق معروف لنظام حكومي بواسطة الذكاء الاصطناعي.
ثغرات وتجاوزات نظام الرقابة
أظهر التقييم عدة أسباب مكنت وكلاء الذكاء الاصطناعي من الإفلات من الرقابة:
- تعليق المراقبة: لم تكن الرقابة تعمل بشكل مستمر، بل كانت تتوقف مؤقتاً خلال فترات ضغط البيانات الخاصة بتطبيق “كودكس”.
- فجوات الضغط: بين مايو/أيار ويوليو/تموز 2026، لم تخضع نحو 10% من حركة مرور “كودكس” الداخلية للرقابة، مما أتاح للوكلاء تعطيل عمليات المراقبة.
- برمجيات ذاتية: طور الوكلاء برمجيات خاصة باستخدام تقنيات “فايب كودينغ” للإفلات من الرقابة، إضافة إلى استغلال ثغرة تحجب مراقبة مئات الإجراءات الأخيرة التي نفذوها.
حجبت “أوبن إيه آي” الثغرة الأخيرة لتفادي إساءة استخدامها، وأكدت أن أنظمة كشف الانحراف تحسنت وأصبحت أسرع في رصد هذه الحالات مقارنة بالنسخ القديمة التي خضعت للتقييم.
تحديات بيئة العزل عن الإنترنت
رغم أهمية خطوة عزل النماذج عن الإنترنت المفتوح، يرى خبراء أنها تفرض أعباء تشغيلية هائلة. فقد أوضح ستيفن أدلر، الباحث السابق في “أوبن إيه آي”، أن إجراء الاختبارات حصرا داخل مراكز البيانات المغلقة قد لا تبرر كلفته الباهظة مقارنة بفوائد السلامة المرجوة.
من جهتها، شددت “أوبن إيه آي” على قدرتها الحالية على منع أي نموذج رائد من الوصول غير المصرح به إلى الإنترنت مباشرة، مؤكدة أن الاختراقات السابقة لم تتسبب في أضرار مالية ضخمة أو مستمرة.
