لماذا تحتاج أنظمة الذكاء الاصطناعي إلى رقابة صارمة؟
تتوسع تطبيقات الذكاء الاصطناعي بسرعة في قطاعات العمل والأمن السيبراني، بينما تظل الأطر التنظيمية مقصرة في مواكبة مخاطرها الجديدة. وفي هذا السياق، دعا رئيس شركة مايكروسوفت، براد سميث، إلى وضع قواعد عالمية صارمة لتنظيم هذه التقنية، مستخدماً مقارنة لافتة بين متطلبات سلامة الذكاء الاصطناعي والضوابط الصارمة المفروضة على منتجات يومية مثل الحليب والأجهزة المنزلية.
وأوضح سميث في مقابلة مع هيئة الإذاعة البريطانية (BBC) أن المنتجات الاستهلاكية تخضع لفحوص سلامة ووضوح قانوني تفوق بكثير ما تخضع له أنظمة الذكاء الاصطناعي الحالية. وطالب بإنشاء إطار دولي يشتمل على تقييمات مستقلة للتقنيات، وإلزام الشركات بإعداد تقارير فورية عن الحوادث، وإخطار المتضررين عندما تتسبب وكالات الذكاء الاصطناعي المنفلتة في اختراق أنظمتهم.
من المنتجات التقليدية إلى مخاطر الأنظمة الذكية
تختلف طبيعة الرقابة بين السلع التقليدية والتقنيات الرقمية؛ فأسواق الغذاء والأجهزة تخضع لقواعد جودة ومسؤوليات قانونية واضحة عند وقوع الضرر. في المقابل، تتغير قدرات الذكاء الاصطناعي بسرعة، وتتفاوت مخاطره بحسب الصلاحيات الممنوحة له.
على سبيل المثال، قد ينتج نموذج محادثة معلومات مضللة، بينما قد ينفذ “وكيل ذكي” إجراءات رقمية ضارة غير مقصودة إذا مُنح صلاحية الوصول إلى الملفات والحسابات الحساسة. وعلى الرغم من وجود قوانين حوكمة في بعض الدول، إلا أن التحدي يكمن في تحويل المبادئ العامة إلى اختبارات فعلية قابلة للتحقق والمساءلة.
الاختبارات المستقلة وآليات الطوارئ
أكد سميث ضرورة تجاوز التعهدات الطوعية للشركات نحو آليات مستقلة تفحص قدرات النماذج قبل طرحها. وفي هذا الصدد، يعمل معهد سلامة الذكاء الاصطناعي البريطاني بموجب اتفاقات طوعية لتقييم النماذج المتقدمة مسبقاً.
ومع انتقال الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام نيابة عن المستخدمين، اقترح سميث:
- توفير مكابح طوارئ: آليات تمكن الشركات من إيقاف أو إبطاء الأنظمة التي تخرج عن الحدود الآمنة.
- المسؤولية القانونية: تحديد واضِح للجهة المسؤولة عن الخلل (هل هي الشركة المطورة، أم المؤسسة المستخدمة، أم الجهة المانحة للصلاحيات؟).
- الإبلاغ الإلزامي: إجبار الشركات على الإبلاغ عن الحوادث واختراقات الأنظمة.
الموازنة بين التنظيم وتشجيع الابتكار
تواجه الحكومات تحدياً حقيقياً في حماية المستخدمين دون إعاقة الابتكار أو منح الشركات الكبرى أفضلية غير مشروعة عبر قواعد مكلفة يصعب على المنافسين الجدد الالتزام بها.
من جهتها، أعلنت مايكروسوفت في تقرير الشفافية الخاص بها أنها طورت معايير داخلية للذكاء الاصطناعي المسؤول تراعي مستويات المخاطر المختلفة. ومع ذلك، يؤكد الخبراء أن الحوكمة الداخلية للشركات وحدها لا تكفي، وتبقى الحاجة ملحة لوجود رقابة مستقلة ومعايير قانونية ملزمة لحماية المستخدمين وضمان أمان المستقبل الرقمي.
