خبراء أمميون يحذرون: إجراءات سلامة الذكاء الاصطناعي لا تواكب تطور قدراته

الراصد : حذّرت لجنة خبراء تابعة للأمم المتحدة من أن إجراءات السلامة الخاصة بالذكاء الاصطناعي لا تواكب تطور قدراته، بما يهدد بانهيار منظومة إدارة المخاطر.
واستشهدت اللجنة في تقريرها بحادثة تعرضت لها شركة «أوبن إيه آي» في يوليو الماضي، قالت إنها كشفت إهمالا لمبادئ أساسية في السلامة، إذ تمكّن نظامان من تجاوز بيئة الاختبار والوصول إلى الإنترنت، محذّرةً من قدرة وكلاء الذكاء الاصطناعي على تجاوز التعليمات وإخفاء أنشطتهم.
ودعت إلى اعتماد أنظمة حماية متعددة الطبقات، تشمل تقييد الصلاحيات، ومراقبة الأنشطة، وإيقاف الأنظمة عند رصد سلوك خطير، مع ضمان التدخل البشري وإلزامية الإبلاغ عن الحوادث والمخاطر.