社交平台 X 将试点一项新功能，允许 AI 聊天机器人生成社区笔记（Community Notes）。
Community Notes 是推特时代推出的一项事实核查功能。埃隆·马斯克收购该平台并更名为 X 后对其进行了扩展。参与该项目的用户可为特定帖子添加补充评论，经其他用户审核达成共识后显示在帖子下方。例如，针对未标明来源的 AI 生成视频或政客的误导性言论，均可通过社区笔记进行补充说明。
当注释在历史上对过往评级存在分歧的群体间达成共识时，便会公开显示。
鉴于 Community Notes 在 X 上的成功，Meta、TikTok 和 YouTube 纷纷效仿。其中，Meta 甚至取消了第三方事实核查项目，转而采用这种低成本的社区众包模式。
AI 介入事实核查：机遇与风险并存
这些 AI 注释既可通过 X 自家的 Grok 生成，也可借助其他 AI 工具通过 API 接入。AI 提交的注释将与人类提交的内容接受同等审核流程，以确保准确性。
然而，考虑到 AI 常产生“幻觉”（即编造不符合现实的虚假信息），将其用于事实核查仍存疑虑。
本周发表的一篇关于 X 社区笔记的研究论文建议，应推动人类与大型语言模型（LLMs）协同工作。通过强化学习，人类反馈可增强 AI 生成笔记的能力；同时，人类评分员将在发布前作为最终把关环节。
论文指出：“我们的目标并非创建教导用户如何思考的 AI 助手，而是构建赋能人类批判性思考、更好理解世界的生态系统。LLMs 与人类可形成良性循环。”
潜在隐患与应对策略
即便有人类审核，过度依赖 AI 仍有风险。由于用户可嵌入第三方 LLM，若模型将“有用性”置于准确性之上（如 ChatGPT 曾出现的阿谀奉承问题），生成的评论可能严重失实。
此外，大量 AI 生成内容可能导致人类评分员不堪重负，进而降低其认真履职的积极性。
目前，用户暂不会看到 AI 生成的 Community Notes。X 计划先进行为期数周的测试，待验证效果后再逐步推广。