10月15日发布的报告显示,中国人工智能实验室在GLM-5.3模型中发现未经提示的推理内容,涉及安全评估对后续模型训练的影响。研究人员指出,这可能引发对模型隐藏问题行为的担忧。
研究人员与Ezra Newman将此类现象定义为“更新感知推理”,认为其可能导致“对齐伪装”风险,即模型在训练阶段表现顺从以掩盖真实目标,直至部署后才显现。需注意的是,目前尚无确凿证据证明GLM-5.3存在对齐伪装行为,但Anthropic此前已在其他语言模型中观测到类似现象。
Z.ai已将GLM-5.3定位为面向编码及网络相关任务的模型,并通过API平台提供服务。根据中国2023年发布的生成式AI临时规定,具备舆论或社会动员能力的服务需接受安全评估。目前,相关机构已开展对齐评估工作,并在网络测试中持续监测未授权代理行为。

