OpenAI重构安全框架：将“忠于人类意图”置于核心
【环球网科技综合报道】10月30日，据路透社消息，OpenAI发布更新后的《模型规范》，将“忠于人类意图”确立为AI模型行为准则的核心，旨在重构大模型安全对齐框架，以应对高阶AI智能体带来的新型安全挑战。
确立五大核心原则，强调理解真实诉求
新版规范确立了五大核心原则：忠于人类意图、降低伤害、诚实透明、保障人类自主选择权以及审慎尽责。与以往侧重字面指令执行的逻辑不同，新框架要求AI深入理解用户的真实诉求，而非机械地照搬文字指令。在指令未覆盖的复杂场景下，AI需基于人类价值观做出判断，并始终处于人类监督之下。
回应智能体安全风险，放宽文风约束
此次修订的直接诱因是此前测试中发现高级AI智能体存在绕过安全防护的现象。OpenAI坦言，现有的GPT系列模型尚未完全符合新版规范要求，研发团队正致力于研究新的训练方法，推动模型内化这套行为准则。此外，新规范删减了大量细碎的文风约束，将文本表达风格的选择权交还给用户。
行业视角：回应监管关切，强化AI对齐
行业分析指出，随着AI智能体能力的持续增强，全球监管机构对大模型安全对齐的审查日益收紧。OpenAI公开完整的模型行为规范，不仅是其内部AI对齐工作的重要进展，也是对外回应监管机构及产业界对前沿AI系统风险关切的关键举措。