生成式AI模型并非真正具有人类特征，它们没有智能或个性——只是统计系统，用于预测句子中最可能的下一个词。但就像专制职场中的实习生一样，它们会毫无怨言地遵循指令，包括那些为模型设定基本属性以及其应做与不应做之事的初始“系统提示”。
从OpenAI到Anthropic，所有生成式AI供应商都使用系统提示来防止（或至少试图防止）模型行为不端，并引导模型回复的整体语气和情感倾向。例如，一个提示可能会告诉模型它应该礼貌但从不道歉，或者诚实地承认它无法知晓一切。
但供应商通常将系统提示保密——可能是出于竞争原因，但也可能是因为了解系统提示可能暗示规避它的方法。例如，唯一暴露GPT-4o系统提示的方式是通过提示注入攻击。即便如此，系统的输出也不能完全信赖。
Anthropic公开Claude系统提示
然而，Anthropic在其持续努力将自己描绘成更道德、透明的AI供应商的过程中，已在Claude iOS和Android应用及网站上发布了其最新模型（Claude 3 Opus、Claude 3.5 Sonnet和Claude 3 Haiku）的系统提示。
Anthropic开发者关系负责人Alex Albert表示，Anthropic计划在其更新和优化系统提示词时，将此类披露常态化。
我们在文档中新增了一个系统提示词发布说明部分。我们将记录对Claude.ai及其移动应用中默认系统提示词所做的更改。（系统提示词不影响API。）
系统提示的具体内容与角色设定
最新版的提示词（日期为7月12日）非常清晰地列出了Claude模型不能做的事情——例如，“Claude无法打开网址、链接或视频。”面部识别是严格禁止的；Claude Opus的系统提示词指示模型“始终表现得完全无法识别人脸”，并“避免识别或命名[图像中的]任何人类”。
但提示词还描述了某些性格特征和特质——Anthropic希望Claude模型能够体现这些特征和特质。
例如，Claude 3 Opus的提示词指出，Claude应显得“非常聪明且充满求知欲”，并且“乐于听取人类对某一问题的看法，并就各种话题展开讨论”。它还指示Claude以公正和客观的态度对待争议性话题，提供“深思熟虑的想法”和“清晰的信息”，并且永远不要以“当然”或“绝对”等词语开头来回应。
行业影响与反思
对这些系统提示词，这位人类读者觉得有些奇怪，它们的写法就像舞台剧演员撰写角色分析表一样。Opus的提示词以“Claude现在正在与一位人类连接”结尾，这给人一种印象，即Claude是屏幕另一端某种意识体，其唯一目的是满足其人类对话伙伴的意愿。
但当然，这是一种错觉。如果Claude的提示词能告诉我们什么，那就是：如果没有人类的指导和手把手的帮助，这些模型将是令人恐惧的空白画布。
通过这些新的系统提示词变更日志——这是主要AI供应商中首个此类举措——Anthropic正给竞争对手施加压力，要求它们也发布类似内容。我们拭目以待这一策略是否奏效。