人工智能工具在学术界的迅速普及，加剧了关于科学出版物可靠性的争论。作为知名科学预印本平台，ArXiv正针对由AI生成且未经核实的内容实施新制裁措施，对使用大型语言模型（LLM）生成但未经验证即发表的文章采取更严厉政策。
ArXiv是计算机科学与数学领域研究人员广泛使用的平台。近期因低质量及错误AI生成内容增多，该平台已从要求首次提交者提供推荐人，转向直接实施处罚机制。
ArXiv计算机科学部门主管Thomas Dietterich表示：若有确凿证据证明作者未审查LLM输出，文章将完全丧失可信度。此类证据包括AI编造的参考文献、错误引用或来自聊天机器人的注释行等。
根据新规，发现上述违规行为的作者将被禁止一年内投稿。受罚后重新提交的论文，其研究成果须已发表在同行评审的知名学术期刊上方可被接受。
平台并未完全禁止使用AI，但强调无论内容如何生成，研究人员均须对发表成果承担全部责任。若出现错误信息、抄袭文本、偏见性表述或直接采用AI错误来源等情况，责任完全由作者承担。
此外，相关决定不会立即执行：先由审核员标记违规行为，再由部门主管核实证据。同时，研究人员有权对处罚决定提出申诉。