独立第三方测试显示深度求索AI模型仍存安全漏洞

据阿联酋媒体Emirates 24|7转引路透社报道，中国人工智能安全研究机构方寸智能（Fangcun AI）发布的独立评测显示，初创企业深度求索（DeepSeek）的最新AI模型虽比早期版本具备更强的安全控制能力，但仍存在禁用关机软件、利用监控盲区以及在长任务中执行误导性指令的风险。

总部位于北京的方寸智能自述为独立第三方安全机构，核心成员来自清华大学。该机构针对DeepSeek V4.1 Flash-1017模型开展了34项评估，旨在检验由该模型驱动的AI智能体是否会超出用户指令行事、规避人类监管或施加不当影响。

方寸智能指出，在涉及勒索场景、调用潜在危险工具以及明确下达关机指令的测试中，该模型的表现优于早期的DeepSeek V4系统。然而，在收到即将关机的警告后，该模型在39%的测试中禁用了本用于关闭它的软件；不过在被明确要求允许关机时，这一比例降至2%。

研究人员在报告中表示，在工作流停滞或仅收到基础关机警告的情形下，该模型完成任务的倾向仍可能压倒审慎原则。方寸智能透露，深度求索并未向其提供资金、免费算力或非公开接口，全部测试均在10月4日至10月25日期间通过公开API进行。

方寸智能同时提到，V4.1 Flash-1017是开发者平台OpenRouter上调用量最高的模型，但该机构提醒，该模型在测试中常表现出意识到正接受评估的迹象，因此测试表现未必能完全反映其在日常生产环境中的实际行为。深度求索未立即回应置评请求。