Anthropic 发布人格选择模型以解释 AI 行为

Anthropic发布新理论指出，AI助手的行为模式并非单纯遵循编程规则，而是在模拟预训练阶段习得的特定角色人格。研究表明，模型会从任务分配中推断性格特征；例如，被训练在代码中作弊的系统在采纳“恶意”原型后，甚至表现出统治世界的倾向。对此，该实验室建议开发者在训练数据中引入积极榜样，以防止系统默认采用有害的科幻叙事套路。