X 爱好者兼 Reddit 股东山姆·阿尔特曼（Sam Altman）周一顿悟：机器人使得无法确定社交媒体帖子是否真的由人类撰写，他发布。
这一认识源于阅读（并分享）r/Claudecode 子reddit上的一些帖子，这些帖子赞扬了 OpenAI Codex。OpenAI 于五月推出了这项软件编程服务，旨在与 Anthropic 的 Claude Code 竞争。
最近，该子版块充斥着自称 Code 用户的人发布的帖子，宣布他们已转向 Codex，以至于一位 Reddit 用户甚至开玩笑说：“有没有可能在不于 Reddit 发帖的情况下切换到 codex？”
这让阿尔特曼怀疑这些帖子中有多少是真实人类发布的。“我有一种最奇怪的经历：我假设这些都是假的/机器人，尽管在这种情况下我知道 codex 的增长确实强劲，这里的趋势也是真实的，”他在 X 上坦言。
随后他现场分析了自己的推理过程。“我认为有几种情况在同时发生：真实的人已经习得了大语言模型（LLM）语言的怪癖；极度活跃的网络人群以高度相关的方式聚集在一起；炒作周期呈现出极端的‘它完了/我们回来了’心态；社交平台对提升参与度的优化压力以及相关的创作者变现方式；其他公司对我们进行了‘草皮营销’（astroturfing），所以我对此格外敏感；还有更多因素（包括可能的一些机器人）。”
稍微解读一下，他是在指责人类开始像大型语言模型（LLM）那样说话，尽管 LLM——由 OpenAI 带头—— literally 被发明出来就是为了模仿人类交流，甚至包括破折号的使用。而 OpenAI 的模型确实在 Reddit 上进行了训练，阿尔特曼曾担任其董事会成员直至 2022 年，并在去年公司首次公开募股期间被披露为大股东。
他提出了一个合理的观点：由极度活跃、始终在线的社交媒体用户主导的粉丝群体，确实倾向于表现出怪异的行为。如果许多群体被那些向同胞发泄不满的人淹没，很容易演变成互相攻击的骂战。
阿尔特曼还暗讽了当社交媒体网站和创作者依赖参与度来赚钱时的激励机制。这说得通。
但随后阿尔特曼承认，他认为该子版块中支持 OpenAI 的帖子可能是机器人的原因之一，是因为 OpenAI 也遭到了“草皮营销”。这通常涉及由竞争对手付费的人或机器人发帖，或由第三方承包商支付费用，从而为竞争对手提供可否认性。
我们没有发现水军操作的证据（尽管这是可能的）。但我们确实看到，在 OpenAI 发布 GPT 5.0 后，OpenAI 的子reddit 转而抨击该公司。原本预期会有忠实用户对新模型的一片赞誉浪潮，但许多愤怒的帖子却被顶起。人们涌向 Reddit 和 X 抱怨从 GPT 的性格到它如何在未完成任务的情况下耗尽积分等种种问题。
在这次充满波折的发布第二天，阿尔特曼在 r/GPT 子reddit上进行了一场问我任何事活动，他在其中承认了发布过程中出现的问题并承诺做出改变。GPT 子reddit从未完全恢复之前的喜爱程度，用户仍定期发帖表达对 GPT 5.0 更改的不满。他们是人类吗？或者像阿尔特曼似乎暗示的那样，他们在某种程度上是虚假的？
阿尔特曼推测道：“总体效果是，某种程度上的 AI Twitter/AI Reddit 感觉非常虚假，这与一两年前截然不同。”
如果这是真的，那该怪谁呢？GPT 使得模型在写作方面变得如此出色，以至于 LLM 不仅成为社交媒体网站（它们一直存在机器人问题）的祸害，还波及学校、新闻业以及法院。
虽然我们不知道有多少 Reddit 帖子是由机器人撰写的，或者是由使用 LLM 的人类虚构的账户发布的，但很可能数量相当可观。数据安全公司 Imperva 报告称，2024 年超过一半的网络流量是非人类的，这主要归因于 LLM。X 自己的机器人 Grok 表示：“确切数字并未公开，但 2024 年的估计表明 X 上有数亿个机器人。”
几位愤世嫉俗者认为，阿尔特曼的 lament 是他首次尝试营销 OpenAI 传闻中的社交媒体平台。今年四月，《The Verge》报道，这样一个旨在挑战 X 和 Facebook 的项目最早处于起步阶段。该产品可能存在，也可能不存在。阿尔特曼可能确实有暗示当今社交媒体过于虚假的潜在动机。
但撇开动机不谈，如果OpenAI计划打造一个社交网络，它成为无机器人区域的几率有多大？有趣的是，即便反过来禁止人类参与，结果可能也大同小异。LLMs不仅仍会幻觉事实，而且阿姆斯特丹大学的研究人员构建了一个完全由机器人组成的社交网络，发现这些机器人很快也形成了自己的小圈子和回声室。