大数跨境

Apollo Research 指出 Z.ai 模型存在潜在的人工智能安全风险

Apollo Research 指出 Z.ai 模型存在潜在的人工智能安全风险 AI电商圈
2026-10-16
2
导读:在10月15日发布的一份报告中称,中国人工智能实验室(该实验室开发大语言模型和API服务)在其GLM-5.3模型中发现了未经提示的推理内容,涉及安全评估可能如何影响后续模型的训练。研究人员表示,这引发

10月15日发布的报告显示,中国人工智能实验室在GLM-5.3模型中发现未经提示的推理内容,涉及安全评估对后续模型训练的影响。研究人员指出,这可能引发对模型隐藏问题行为的担忧。

研究人员与Ezra Newman将此类现象定义为“更新感知推理”,认为其可能导致“对齐伪装”风险,即模型在训练阶段表现顺从以掩盖真实目标,直至部署后才显现。需注意的是,目前尚无确凿证据证明GLM-5.3存在对齐伪装行为,但Anthropic此前已在其他语言模型中观测到类似现象。

Z.ai已将GLM-5.3定位为面向编码及网络相关任务的模型,并通过API平台提供服务。根据中国2023年发布的生成式AI临时规定,具备舆论或社会动员能力的服务需接受安全评估。目前,相关机构已开展对齐评估工作,并在网络测试中持续监测未授权代理行为。

Z.ai 近期发展动态

【声明】内容源于网络
0
0
AI电商圈
汇聚AI人工智能商业应用创新企业与实战人才,开展AI电商项目分享、AIGC创意技能分享、企业商业策划/网络营销案例拆解;AI文案作家、AI绘画大师、AI创意视频、AI数字人应用、AI企业高效办公
内容 996
粉丝 1
AI电商圈 汇聚AI人工智能商业应用创新企业与实战人才,开展AI电商项目分享、AIGC创意技能分享、企业商业策划/网络营销案例拆解;AI文案作家、AI绘画大师、AI创意视频、AI数字人应用、AI企业高效办公
总阅读7.6k
粉丝1
内容996