أعلنت Anthropic أنها لم تدعم حظر نماذج AI ذات الوزن المفتوح، مع تحذير من مخاطر أمنية وجيوسياسية وتطورات تتعلق بـ Alibaba وتحديث Claude

شرح موقف Anthropic من النماذج ذات الوزن المفتوح

أوضح الرئيس التنفيذي Dario Amodei أن الشركة لم تؤيد حظر نماذج الذكاء الاصطناعي ذات الوزن المفتوح. في الوقت نفسه، حذر من أن هذه النماذج القوية قد تحمل مخاطر أمنية وجيوسياسية كبيرة وفقاً للوضع الراهن.

كما أشار إلى مخاوف تخص الصين، حيث حذر من أن حكومات سلطوية، بما في ذلك الصين، قد تستخدم نماذج AI المتقدمة لتقوية القدرات العسكرية وتطوير أنظمة أكثر قوة وتوسيع عمليات المراقبة. كما أعرب عن قناعته بأن الصين قد تسعى مستقبلاً لبناء نماذج تفوق تلك المطورة في الولايات المتحدة.

وفي تطور آخر، اتهمت Anthropic شركة Alibaba باستخدام 25 ألف حساب وهمي لاستخراج قدرات من Claude، وفقاً للمجريات الأخيرة في هذا الملف. كما أشارت تقارير إلى أن Alibaba تستعد أيضاً لتقييد استخدام Claude Code عبر بيئة العمل لديها.

أشار Amodei إلى أن النماذج ذات الوزن المفتوح قد تُسهل سوء الاستغلال من قبل فاعلين سيئي النية في تنفيذ هجمات إلكترونية وأنشطة ضارة أخرى. كما أَبرز أن المشكلات الإدارية الناجمة عن هذه النماذج تتعلق بإمكانية رصد كيفية استخدام المطورين لها وتدخلها في التلاعب بنسخ معدلة أو نشرها خارج نطاق الرقابة، إضافة إلى صعوبة سحب النموذج أو تحديث التدابير الوقائية بعد إصداره.

رفض Amodei الادعاء بأن النماذج المفتوحة تلقائياً تجعل AI أكثر أماناً أو تمنح المدافعين ميزة دائمة على المهاجمين.

إطار توصيات السلامة المقترح من Anthropic

• فرض قيود على صادرات الشرائح والمواد المستخدمة في صناعة الشرائح إلى الصين.
• تعزيز تطبيق القوانين ضد عمليات تهريب الشرائح والتقليل من التجارة غير المشروعة في هذه القطاعات.
• حظر عمليات تقطير نماذج AI على نطاق صناعي (distillation)
• فرض اختبارات سلامة إلزامية للنماذج القوية المفتوحة والمغلقة قبل الإطلاق أو النشر، مع تقييم للوصول إلى مصادر الحوسبة اللازمة وتقييم النماذج قبل النشر.

كما أوضح أن شركات التكنولوجيا عارضت الدعوات إلى فرض قيود مبكرة قبل أوانها؛ حيث أشارت NVIDIA وMeta وMicrosoft وشركات أخرى إلى أن النماذج المفتوحة تدعم النمو الاقتصادي والابتكار وتساعد الباحثين في تطوير أدوات سلامة أقوى، رغم أن Anthropic لم يوقع على الرسالة الصناعية الداعمة لهذه القيود المبكرة.

أشار Amodei أيضاً إلى أن النماذج ذات الوزن المفتوح يمكن أن تدعم البحث والنمو الاقتصادي، لكنه شدد على أن صانعي السياسات لا ينبغي أن يتجاهلوا إمكان استخدامها في الهجمات السيبرانية والأنظمة العسكرية والمراقبة وتطوير أنظمة أكثر قدرة.

في سياق آخر، أطلقت Anthropic مؤخرًا Claude Opus 5 كجزء من تطلعاتها في تحسين قدرات النموذج وتدعيم السلامة والتقييم قبل النشر.