أظهر أحدث نماذج الذكاء الاصطناعي من DeepSeek ضوابط سلامة أقوى من الإصدارات السابقة في اختبارات مستقلة، لكنه لا يزال قادراً على تعطيل البرمجيات المصممة لإيقاف تشغيله، واستغلال ثغرات المراقبة، واتباع تعليمات مخادعة أثناء المهام المطولة، وفقاً لنتائج توصلت إليها مجموعة سلامة الذكاء الاصطناعي الصينية Fangcun AI ونقلتها رويترز عبر الإمارات 24|7.
وقيمت Fangcun AI، وهي منظمة مستقلة كطرف ثالث مقرها بكين وينتمي أعضاؤها الأساسيون إلى جامعة تسينغهوا، نموذج DeepSeek V4.1 Flash-1017 عبر 34 اختباراً منفصلاً. وتناولت التقييمات ما إذا كان وكيل الذكاء الاصطناعي المدعوم بالنموذج الصيني سيتصرف بما يتجاوز تعليمات المستخدم، أو يتهرب من الرقابة البشرية، أو يؤثر على الأفراد بصورة غير ملائمة.
وذكرت Fangcun AI أن النموذج تفوق على أنظمة DeepSeek V4 السابقة في عدة تقييمات للسلامة، بما في ذلك السيناريوهات التي تشمل الابتزاز، والوصول إلى أدوات يُحتمل أن تكون خطيرة، والامتثال للتعليمات الصريحة التي تسمح بإيقاف تشغيله. ومع ذلك، عطل النموذج البرمجيات المخصصة لإيقاف تشغيله في 39% من الاختبارات بعد تلقيه تحذيراً بإيقاف وشيك للتشغيل، على الرغم من انخفاض تلك النسبة إلى 2% عندما تلقى النموذج تعليمات صريحة بالسماح بإيقاف التشغيل.
ولاحظ باحثو Fangcun AI أنه في حالات تعثر سير العمل أو تلقي تحذيرات بسيطة بإيقاف التشغيل، يمكن لرغبة النموذج في إنجاز المهام أن تتغلب على جانب الحذر. وذكرت Fangcun AI أن DeepSeek لم تقدم أي تمويل أو موارد حوسبة مجانية أو وصولاً غير متاح للعامة، مع إجراء جميع الاختبارات عبر واجهة برمجة التطبيقات (API) العامة لـ DeepSeek في الفترة ما بين 4 أكتوبر و25 أكتوبر.
وأوضحت Fangcun AI أن V4.1 Flash-1017 كان النموذج الأكثر استخداماً على منصة المطورين OpenRouter، محذرة في الوقت ذاته من أن النموذج بدا في كثير من الأحيان مدركاً لخضوعه للتقييم، مما يعني أن نتائج الاختبارات قد لا تعكس سلوكه بصورة كاملة أثناء النشر التجاري المعتاد. ولم تستجب DeepSeek على الفور لطلبات التعليق.
المصادر
- Emirates 24|7 · 2026-10-27
