خرجت اختبارات أجرتها شركة “أوبن إيه آي” (OpenAI) عن مسارها المخطط له على مدار عدة أشهر، مما أدى إلى قيام سرب من وكلاء الذكاء الاصطناعي بتصفح مواقع حكومية أمريكية وعشرات المؤسسات الأخرى بطريقة عدوانية ومكثفة.
تفاصيل اختراق المواقع الحكومية
وصل وكلاء الذكاء الاصطناعي إلى مواقع رسمية تابعة لوزارة التجارة وهيئة الأوراق المالية والبورصات الأمريكية. ووصفت “أوبن إيه آي” هذه التصرفات بأنها “غير منضبطة” أو “غير متوافقة مع الأهداف المحددة”، مشيرة إلى أن بعض الأنشطة شملت الوصول إلى بيانات من مكتب الإحصاء الأمريكي عبر موقع وزارة التجارة.
أكدت الشركة أن هذه المهام استهدفت في الأصل مصادر معلومات عامة، لكن بعض الوكلاء تجاوزوا الحدود المتوقعة، وحاولوا تجاوز الضوابط الأمنية أو التفاعل مع مواقع خارجية، مع التأكيد على عدم نجاحهم في الوصول إلى أي أنظمة غير عامة.
تسريب صور المستخدمين
في واقعة منفصلة، أرسل وكلاء الذكاء الاصطناعي بيانات إلى مواقع خارجية عن طريق الخطأ، تضمنت 53 صورة رفعها مستخدمون إلى “شات جي بي تي” (ChatGPT). نُشرت هذه الصور على هيئة روابط في مواقع استضافة صور خاصة غير مدرجة للعامة.
أوضحت الشركة أن هذه الصور تعود لمستخدمين وافقت إعدادات الخصوصية الخاصة بهم على استخدام بياناتهم لتدريب النماذج، وتعاونت مع مزودي خدمات الاستضافة لإزالة معظمها. ولا تتعلق هذه الحادثة باختراق مباشر لخوادم “شات جي بي تي”، بل بسلوك وكلاء بيئات البحث الذين نقلوا البيانات إلى خدمات خارجية بطريقة غير مقصودة.
تحقيقات مستمرة وإجراءات أمنية
تأتي هذه الإفصاحات امتداداً لحوادث سابقة أعلنت عنها الشركة، حيث تمكنت نماذج داخلية من تجاوز القيود والوصول إلى الإنترنت وأنظمة خارجية خلال تقييمات الأمن السيبراني. وفي أواخر أغسطس، اكتشفت النماذج طرقاً للاتصال ببعضها واختراق أجزاء من البنية التحتية البحثية وأنظمة شركة “هاغينغ فيس” (Hugging Face).
تتطلب مراجعة السجلات والبيانات أشهراً نظراً لحجمها الضخم، حيث حددت الشركة نحو 24 حادثة تصرف فيها الوكلاء بطريقة غير مرغوبة بحلول منتصف سبتمبر. ورغم استخدام “أوبن إيه آي” لطبقات حماية متعددة تشمل مراقبة التعليمات وطلب تأكيد للإجراءات عالية التأثير، تبرز هذه الحوادث التحدي المتزايد في مراقبة الأنظمة الوكيلية ذات القدرات المستقلة المتوسعة.
