埃隆·马斯克（Elon Musk）旗下 X 平台部分用户开始转向 AI 机器人 Grok 进行事实核查，此举引发人工事实核查人员担忧，认为可能助长错误信息传播。
本月早些时候，X 允许用户向 xAI 的 Grok 提问，该举措与在 X 上运营自动化账户提供类似体验的 Perplexity 相似。Grok 自动化账户上线后，包括印度在内的多地用户已开始要求其针对特定政治信仰的评论和问题进行事实核查。
事实核查人员担心利用 Grok 等 AI 助手进行核查存在风险：这些机器人的回答虽听起来令人信服，但未必符合事实。此前，Grok 曾出现过传播假新闻和错误信息的情况。
去年8月，因助理生成的误导性信息在美国大选前出现在社交网络上，五位州务卿曾敦促马斯克对 Grok 实施关键性变更。此外，OpenAI 的 ChatGPT 和 Google 的 Gemini 去年也被发现在大选问题上生成不准确信息；2023年虚假信息研究人员还发现，包括 ChatGPT 在内的 AI 聊天机器人易被用于制作具有误导性叙事的逼真文本。
波因特学院（Poynter）国际事实核查网络（IFCN）主任安吉·霍兰（Angie Holan）指出：“像 Grok 这样的 AI 助手擅长使用自然语言，能给出看似人类口吻的回答。即使内容完全错误，其产品仍声称具有自然性和真实感，这才是真正的危险所在。”
与 AI 助手不同，人工事实核查人员会使用多个可信来源验证信息，并对调查结果承担全部责任，同时附上姓名和组织名称以确保可信度。
印度非营利事实核查网站 Alt News 联合创始人普拉蒂克·辛哈（Pratik Sinha）表示，尽管 Grok 目前能提供看似令人信服的答案，但其表现仅取决于输入数据的质量。“谁来决定它接收哪些数据？这正是政府干预等问题可能出现的地方。”他强调，“缺乏透明度的事物可以被随意操纵，从而造成危害。”
“可能被滥用——用于传播错误信息”
Grok 在本周早些时候的回复中承认，其“可能被滥用——用于传播错误信息和侵犯隐私”。然而，当用户获取自动化账户的回答时，该账户不会显示任何免责声明。若 AI 产生幻觉式回答，用户极易受到误导。
果阿多学科研究集体 Digital Futures Lab 研究助理 Anushka Jain 警告称：“它可能会编造信息以提供回应。”人们还质疑 Grok 在多大程度上使用 X 帖子作为训练数据，以及采取了何种质量控制措施核实其真实性。去年夏天，Grok 推出了一项变更，似乎允许其默认消耗 X 用户数据。
另一大担忧在于，Grok 等 AI 助手通过社交媒体平台公开提供信息，这与 ChatGPT 等聊天机器人被私下使用的情况不同。即使用户清楚所获信息可能存在误导或不完整，平台上的其他人仍可能轻信这些信息。
这可能导致严重的社会危害。此前在印度，WhatsApp 上传播的错误信息曾导致暴民私刑事件。虽然那些严重事件发生在生成式 AI 普及之前，但如今生成式 AI 使得合成内容的生成更加容易且逼真。
IFCN 的霍兰告诉 TechCrunch：“如果你看到很多 Grok 的回答，可能会觉得大多数是正确的，但其中确实包含错误。一些研究表明，AI 模型存在 20% 的错误率……而当出错时，后果可能非常严重，并带来现实世界的影响。”
AI 与真正的事实核查员
尽管包括 xAI 在内的 AI 公司正不断优化模型使其沟通更像人类，但它们仍然无法、也不应取代人类。
过去几个月里，科技公司一直在探索减少对人类事实核查员依赖的方法。包括 X 和 Meta 在内的平台开始采用通过“社区笔记”（Community Notes）进行众包事实核查的新概念，此类变化也引发了事实核查员的担忧。
Alt News 的辛哈乐观地认为，人们将学会区分机器与人类事实核查员，并更加重视人类的准确性。IFCN 的霍兰也表示：“我们最终会看到趋势再次转向更多的事实核查。”但她指出，在此期间，随着 AI 生成信息的迅速传播，事实核查员的工作量可能会增加。
她说：“这个问题在很大程度上取决于你是否真正关心什么是真实的。你只是想要一种听起来和感觉上真实、但实际上并不真实的外衣吗？因为这就是 AI 辅助所能给你的东西。”
X 和 xAI 未回应置评请求。