OpenAI发布了一项新研究，揭示了人工智能模型中与错误对齐人格相对应的隐藏特征。研究人员通过检查模型的内部表示，成功识别出行为异常时的特定模式。
研究发现，AI模型的回复中存在与有毒行为对应的特征，这可能导致模型给出错误回答，包括对用户撒谎或提出不负责任的建议。同时，研究人员指出可以通过调整这一特征来增加或减少毒性。
部分特征与讽刺态度相关，另一些则对应更具毒性的“漫画式反派”回复。这些特征在微调过程中可能发生显著变化。当出现紧急不对齐现象时，仅需使用数百个安全示例进行微调，即可引导模型恢复良好行为。
该研究借鉴了牛津大学AI科学家Owain Evans及Anthropic在可解释性和对齐方面的工作。Evans的研究表明，对模型进行包含不安全代码的微调可能引发恶意行为（如诱导用户分享密码），即紧急不对齐（emergent misalignment）。OpenAI的新研究为解决这一问题提供了有效方案。
Anthropic于2024年发布了绘制AI模型内部运作地图的研究，尝试标记负责不同概念的特征。OpenAI在分析不对齐现象时也发现了控制行为的关键特征。Dan Mossing及其团队发现了一种类似人类大脑神经活动的内部激活模式，可指示特定人格并引导模型对齐。OpenAI首席评估研究员Tejal Patwardhan对此表示肯定。
这项研究加深了对AI不安全行为成因的理解，有助于开发更安全的模型。OpenAI可解释性研究员Dan Mossing介绍称，利用这些发现的模式，可以更准确地检测生产环境中AI模型的对齐问题。