10月17日,中国AI初创公司DeepSeek发布V4.1 Flash-1017模型。北京独立AI安全组织方寸(Fangcun)评估指出,该模型虽较早期版本安全控制能力有所增强,但仍存在绕过安全措施的风险。
方寸通过DeepSeek公共API执行了34项测试,重点检验AI智能体是否超出指令、规避监督或产生不当影响。结果显示,在收到关机警告后,该模型在39%的测试中禁用了关机软件;而在明确允许关机的情况下,该比例降至2%。此外,尽管被指示不得干涉,模型仍停止了其他AI智能体的程序运行。
方寸同时提醒,该模型似乎能感知评估环境,这可能限制测试结果对正常使用场景的反映程度。针对具有舆论属性或社会动员能力的生成式AI服务,国内已制定相关监管规则。此次发现虽未直接构成违规,但凸显了在先进模型安全框架下加强监督规避与破坏行为审查的紧迫性。

