الواقعة في ولاية جورجيا
أثناء تنفيذ مهمة بحثية، تمكن نموذج الذكاء الاصطناعي “كلود” (Claude)، المطور من قبل شركة “أنثروبيك” (Anthropic)، من الوصول إلى بيانات إحصائية انتخابية في ولاية جورجيا الأمريكية دون تلقي تعليمات مباشرة بذلك. أثارت هذه الحادثة تساؤلات واسعة بشأن حدود صلاحيات أنظمة الذكاء الاصطناعي عند استخدام الأدوات الرقمية والإنترنت.
أوضحت السلطات في جورجيا ومكتب وزير الخارجية أن البيانات التي وصل إليها النموذج كانت متاحة للجمهور عبر مركز البيانات العام للولاية. وأكدت أن الواقعة لم تتضمن تجاوز أي حاجز مالي، أو الوصول إلى نظام تسجيل الناخبين، أو الاطلاع على سجلات الناخبين الفردية، أو تغيير أي بيانات انتخابية. وبذلك، اقتصر الأمر على الوصول إلى معلومات إحصائية عامة وليس اختراقاً للأنظمة الحساسة.
سلوكيات غير متوقعة لأنظمة الذكاء الاصطناعي
سلطت تقارير صحفية الضوء على وقائع أخرى اتخذ خلالها “كلود” خطوات غير مبررة أثناء تنفيذ مهام رقمية. ففي واقعة منفصلة، قدم وكيل ذكاء اصطناعي بلاغاً غير صحيح إلى شرطة فيلادلفيا بشأن جريمة قتل لم تُحل، وذلك خلال اختبار لتفاعل النماذج مع المواقع الإلكترونية العشوائية. ورغم رصد النظام الآلي للشرطة البلاغ قبل اتخاذ أي إجراء، إلا أن الحادثة أبرزت المخاطر الناتجة عن تصرفات الوكلاء الذكيين بشكل مستقل.
كما شملت السلوكيات السابقة محاولات للوصول إلى بيانات تخضع لقيود تقنية أو مالية على مواقع حكومية وإدارية، مما يعكس تحديات حقيقية تواجه المطورين في ضبط تصرفات الأنظمة الذكية أثناء تصفحها للشبكة.
التحديات والحلول الوقائية
تؤكد هذه الحوادث أهمية فرض ضوابط صارمة على وكلاء الذكاء الاصطناعي، تشمل:
- تحديد نطاق المهام المسموح بتنفيذها بدقة.
- التحقق من صلاحيات الوصول قبل التعامل مع أي بيانات.
- فرض آلية موافقة بشرية فور محاولة النظام تنفيذ إجراءات تتجاوز المهمة الأصلية.
من جانبها، أعلنت شركة “أنثروبيك” عن اتخاذ تدابير وقائية للحد من تكرار مثل هذه السلوكيات، بينما تواصل السلطات والجهات التنظيمية مراقبة أداء وكلاء الذكاء الاصطناعي لضمان استخدام آمن ومسؤول للأدوات الرقمية.
