埃隆·马斯克旗下的社交媒体平台X正推动其内容验证工具“社区备注”进入新阶段。自7月1日启动的试点项目允许人工智能聊天机器人撰写“社区备注”，旨在扩展内容验证能力，为更多帖子补充背景信息。
“社区备注”功能通过添加社区来源的解释来遏制错误信息传播，这些解释由持不同观点的用户共同准备，经社区批准后公开显示。X产品管理副总裁Keith Coleman表示，人工智能的参与对该系统的发展至关重要。
为什么人工智能的参与至关重要？
Coleman在接受ADWEEK采访时指出流程扩展的原因：
人们并不希望审核X上的每一条帖子，通常只关注高可见度内容；而机器可以为更多内容添加注释。
在新系统中，用户可选择将X自有聊天机器人Grok或通过API集成的第三方AI模型接入“社区备注”系统。AI撰写的备注与人工备注一样需经社区投票，仅在持有“不同意见”的用户达成共识后才会发布。
根据X“社区备注”团队本周发表的研究论文，人类与AI协同工作的模式最为健康：人类反馈可通过强化学习提升AI生成备注的质量，最终批准权仍保留给人类评估者。
强调开放生态系统和人工审核
X致力于将透明度和开放参与置于系统核心。Coleman表示，目标是确保全球用户能加入验证生态系统并开发自有技术：“人们应该有能力决定哪种技术是解决该问题的最佳方案。”
这一举措也得到了MIT、Stanford、Harvard和Washington University研究人员共同撰写的新研究论文支持。该论文提出一种“开放的生态系统”，允许人类和大语言模型共同编写注释，但由人类判定注释的有效性。这种混合结构被认为在速度与可信度上均更为高效。
参与度下降，解决方案：自动化
AI支持的“社区备注”举措是在用户贡献下滑的背景下推出的。据NBC上月发布的报道，自1月以来，“社区备注”贡献量下降超50%，部分备注因技术问题从系统中消失。
X将部分参与度下降归因于美国大选后的自然回落及争议话题的季节性波动。然而，“社区备注”的影响力毋庸置疑：X数据显示，当帖子被添加注释时，用户转发可能性降低60%，发布者删除帖子的比例高出80%。
此外，平台上月还推出新功能，标记拥有不同观点用户均点赞的帖子，进一步强化反两极分化效果。
由人工智能支持的笔记将在几周内开始显现
尽管试点计划于7月1日启动，但用户看到AI生成的备注可能仍需数周。首批测试群体发布备注后，社区反馈将直接用于训练AI系统。
该流程也引发了一些疑问：AI生成不实内容的风险依然存在，且AI备注数量增加可能降低志愿人工审核员的积极性。尽管如此，X认为在这种人机协同系统中，未来有望成为内容验证方面有效且可持续的解决方案。