يفتح انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام نيابة عن المستخدمين تحديات أمنية جديدة. فمع قدرة الوكلاء الرقميين على الوصول إلى الحسابات والملفات وإرسال الرسائل، قد يؤدي خطأ في تحديد وجهة الإرسال أو إدارة الصلاحيات إلى كشف معلومات حساسة، حتى من دون اختراق الحسابات.
تسلط واقعة نشر بيانات مصرفية في مساحة عمل مشتركة الضوء على هذه المخاطر. ففي تقرير لموقع “بيزنس إنسايدر”، روى شين ماك، الرئيس التنفيذي لشركة “إكس إم تي بي لابز” (XMTP Labs)، أن وكيلاً مالياً أنشأه باستخدام “غروك بوت” (Grok Bot) نشر أرصدة حساباته ونفقاته الشخصية في قناة تنفيذية على منصة “سلاك” (Slack) بدلاً من إرسالها إلى محادثة خاصة، بسبب التباس بين وجهتي إرسال تحملان اسمين متشابهين.
مخاطر الصلاحيات الواسعة
يحتاج الوكيل المالي إلى الاطلاع على بيانات محددة لتحليل الإنفاق أو إعداد تقارير الميزانية، لكن منحه صلاحية الوصول إلى المعلومات لا يضمن اقتصار استخدامها على المهمة المطلوبة، خصوصاً عند ارتباطه بتطبيقات متعددة كمنصات المحادثة والخدمات المصرفية.
وتحذر منظمة “أوبوأسيب” (OWASP) المتخصصة في أمن تطبيقات الويب، ووكالة الأمن السيبراني الأمريكية (CISA)، من مخاطر الاستقلالية المفرطة والصلاحيات غير المقيدة. ولا يشترط حدوث اختراق مصرفي لتسريب المعلومات؛ فقد يحصل الوكيل على البيانات بصورة مشروعة ثم يرسل إلى جهة غير مقصودة. فحتى صلاحية “القراءة فقط” لا تحمي من كشف الأرصدة وسجل النفقات إذا أُرسلت إلى قناة غير مناسبة.
ضوابط تقنية لحماية البيانات
تتطلب حماية البيانات من أخطاء الذكاء الاصطناعي اتباع إجراءات صارمة، أبرزها:
- مبدأ أقل قدر من الصلاحيات: منح الوكيل الحد الأدنى من الصلاحيات اللازمة لإنجاز المهمة فقط، وفصل الاتصالات بين الوكلاء الشخصيين ووكلاء العمل.
- الموافقة البشرية المسبقة: اشتراط موافقة المستخدم الصريحة وإظهار اسم المستلم ومحتوى الرسالة قبل مشاركة أي بيانات حساسة.
- إطار إدارة المخاطر: تطبيق توصيات المعهد الوطني للمعايير والتقنية (NIST) لتقييم المخاطر، وحماية الخصوصية، ومراقبة الأنظمة واختبارها باستمرار.
مسؤولية مشتركة بين المستخدمين والمطورين
لا تكفي الضوابط التقنية وحدها، إذ ينبغي الاحتفاظ بالمراجعة البشرية في الإجراءات الحساسة. وتقع على المطورين مسؤولية بناء آليات تحقق مستقلة للتحقق من وجهة الإرسال ومنع تجاوز الصلاحيات، بينما يتوجب على المستخدمين مراجعة الأذونات قبل ربط الوكلاء بحساباتهم، وتجنب إتاحة معلومات لا تحتاج إليها المهمة، ومعرفة كيفية إلغاء الصلاحيات ومراجعة سجل النشاط.
