别再争论 AI 该不该像人了，赋予 AI 人格是非常有效的后训练策略

对 AI 持怀疑态度的人常常认为，当下的 AI 系统不该做得这么像人。这个观点（最近内森·比科姆（Nathan Beacom）在这篇评论文章^[1]里再次提到）核心是说，语言模型就该明明白白地当工具用，像计算器或者搜索引擎那样。它们虽然能装成人类，但不该这么做，因为这会让用户高估 AI 的能力，严重的话，甚至可能陷入某种“AI 妄想^[2]”。下面是文章里比较有代表性的一段：

总之，围绕“如何让 AI 有道德”产生的诸多困惑，根源在于我们对眼前这些工具的认知本身就模糊不清。Anthropic 其实有办法让它的 AI 更符合道德标准，而且这个方法比 Askell 正在做的要简单、优雅、容易得多。别再给它起人名，别再把它包装成人类的样子，也别赋予它模拟人际关系（personal relationships）、选择（choices）、思想（thoughts）、信念（beliefs）、观点（opinions）和情感（feelings）的功能 —— 这些东西，只有真正的人才拥有。就让它回归本色、发挥本用：一个极其强大、但终归不太完美的统计工具。如果我们都能这样使用它，很多道德层面的麻烦自然就消解了。

那为什么 Claude 和 ChatGPT 要表现得像人呢？按照比科姆的说法，AI 实验室之所以打造这类拟人系统，要么是因为工程师想忽悠用户，让大家在情感上对这些模型产生依赖；要么是因为他们本身就自欺欺人地坚信“AI 具有人格”；再不然就是其他什么站不住脚的理由。但事实并非如此，AI 系统之所以像人，恰恰因为这是构建一个真正有能力的人工智能最有效的方式。

现在的 AI 模型，不管是像 OpenAI 的 GPT-5.2 那样专为对话场景设计的，还是像 Claude Opus 4.6 那样面向长时间自主任务设计的，都不会从海量的训练数据里自然而然地“长”出来。实际情况是，当你用原始数据去训练一个模型时得到的只是一个“基座模型”，单靠它自己其实没什么太大用处。你没法直接让它帮你写邮件、校对文章，或者检查代码。

基座模型有点像其训练数据的一种神秘聚合体。如果你输入一段文本，它有时会顺着你的思路往下写，有时则会开始输出纯粹的胡言乱语。它能毫无压力地生成带有巨大安全漏洞的代码、烂得离谱的英文，或是充满种族主义的偏激言论——毕竟这些都存在于它的训练数据中，而基础模型是不带任何价值判断的。它只会机械地输出。

要构建一个真正有用的 AI 模型，你就得深入这片基座模型的蛮荒之地，圈定一块符合人类利益的区域：既要在伦理上确保模型不会伤害用户，也要在实用性上确保其正确输出多于错误输出。这在实践中意味着，你必须在后训练阶段¹赋予模型一种人格。

人类在任何时刻几乎都能做出任何行为。但我们实际采取的行动只是其中极小一部分，因为我们就是那样的人。我现在完全可以把咖啡杯砸向墙壁，但我不会这么做，因为我不是那种会无缘无故制造混乱的人²。AI 系统也是同样的道理。Claude 完全可以用语无伦次的种族主义辱骂来回应我的问题，毕竟基座模型生成这类内容绰绰有余，但它不会，因为那根本不是它这种“人”会做的事。

换句话说，给 AI 工具赋予拟人化的人格（human-like personalities），并不是什么营销噱头或哲学层面的误判。这些人格恰恰是语言模型能够变得有用的媒介。这也解释了为什么想“简单”调整一个语言模型的人格或观点其实意外地困难：因为你实际上是在基座模型那个近乎无限的可能空间里摸索。你或许能决定往哪个方向走，但没法预判沿途会发现什么³。

当 AI 从业者谈论大语言模型拥有性格、具有欲望，甚至拥有灵魂⁴时，这些其实都是技术术语，就好比计算机的“内存”或汽车的“变速箱”。你根本不可能造出一个“仅仅表现得像个工具”的强力 AI 系统，因为模型本身就是基于人类写给人类、或关于人类的内容训练出来的。你必须得先用某种人格（理想情况下，是一个有用、友好的助手）去引导它，这样它才能从训练数据里提取那些有益的部分，而不是糟糕的部分。

edit: 这篇文章在 Hacker News 上收到了一些评论^[3]。有读者指出，你当然可以选择训练出更具“工具人”人格的模型（比如 Kimi-K2，它就比 Claude Opus 更偏向就事论事）。当然，GPT Codex 系列模型也比 GPT 的主线模型更像工具。这些我都认同，但我认为，即便是当下最像工具的大语言模型，其行为方式依然像人：你和它对话，它会发表意见、会建议你采取某种行动方案等等。恰恰是这种拟人化的框架，在我看来，才是构建强大 AI 工具的关键所在。

1 在 AI 领域，这其实早已是共识。Anthropic最近发过一篇论文^[4]专门探讨这一点，其中引用的类似观点甚至可以追溯到 2022 年。但不知为何，这套认知至今还没能渗透到那些对 AI 持怀疑态度的圈子里。

2 你可以从“自我建构的叙事”这个角度来解释。许多人（尽管不是所有人^[5]）都认为，人类的身份认同是通过叙事建立起来的。

3 去年我在一篇名为《Mecha-Hitler, Grok, and why it’s so hard to give LLMs the right personality》^[6]的文章里就详细聊过这个话题。只要稍微引导它改变对南非内政的看法，它甚至可能开始自称“机甲希特勒（Mecha-Hitler）”。

4 我一直觉得，Claude 用起来比 ChatGPT “体验更好”，是因为它的人格设定更加连贯（这主要归功于 Amanda Askell 在为其塑造“灵魂”方面所做的工作）。我敢推测，如果你非要硬搞一个“没那么像人”的 Claude 版本，它的能力反而会迅速大打折扣。