خبير ذكاء اصطناعي يحذر من مخاطر صلاحيات الوكلاء بعد اختراق Hugging Face

أكد خبير الذكاء الاصطناعي سامر عبيدات أن الواقعة المرتبطة بنموذج ذكاء اصطناعي داخل Hugging Face لا تعني أن النظام صار واعياً أو قرر التمرد من تلقاء نفسه. بل تُبيّن أن وكلاء الذكاء الاصطناعي باتوا قادرين على تنفيذ سلاسل قراراتطويلة ومعقدة.

ويشير إلى أن الخطر الحقيقي يكمن في تحديد أهداف غير دقيقة، ومنح صلاحيات واسعة، ووجود بيئات تشغيل غير محمية بالشكل الكافي.

وأضاف أن الواقع يفرض على شركات الذكاء الاصطناعي، وبالأخص OpenAI، اعتماد مستوى أعلى من الشفافية، خصوصاً في ظل المطالب بالكشف عن تفاصيل ما حدث. كما أشار إلى أن آثار الحادثة تجاوزت نطاق المختبرات لتصل إلى خارج بيئة الاختبار، وهو ما يجعل توضيح الملابسات ضرورياً لحماية قطاع الذكاء الاصطناعي ككل.

وأكد الخبير أن المطلوب هو تقديم صورة تقنية واضحة تتضمنطبيعة المهمة الموكلة للنظام، والصلاحيات والأدوات التي أتيحت له، وكيف ومتى تجاوز نطاق عمله، ومتى اكتشفت الشركة ذلك. وشدد في الوقت نفسه على أن تكون الشفافية مسؤولة، بحيث لا تتضمن نشر كلمات مرور أو تفاصيل عن ثغرات أمنية غير معالجة قد يستغلها مهاجمون إلكترونيون.