ArXiv是一个广泛使用的预印本研究开放存储库，正在加大对科学论文中随意使用大型语言模型的打击力度。
尽管论文在同行评审之前就会发布到该网站，但arXiv（发音为“archive”）已成为计算机科学和数学等领域研究成果传播的主要途径之一，该网站已成为反映科学研究趋势的数据来源。
ArXiv已经采取措施应对日益增多的低质量AI生成论文——例如，要求首次发布者获得知名作者的推荐。在由康奈尔大学托管超过20年后，该组织正转型为独立的非营利机构，这将使其能够筹集更多资金以解决诸如AI垃圾内容等问题。
新规明确责任归属
在其最新举措中，arXiv计算机科学板块主席Thomas Dietterich于周四表示：“如果提交的材料包含确凿证据，表明作者未对大语言模型（LLM）生成的结果进行检查，这意味着我们无法信任论文中的任何内容。”
Dietterich指出，这些确凿证据可能包括“幻觉参考文献”以及与大语言模型的评论往来。若发现此类证据，论文作者将面临“被arXiv禁入1年，且后续提交的稿件必须先被信誉良好的同行评审期刊或会议接收”的处罚。
需要注意的是，这并非全面禁止使用大语言模型，而是坚持Dietterich所表述的观点，即作者需对内容承担“全部责任”，“无论内容是如何生成的”。因此，如果研究人员直接从大语言模型复制粘贴“不当语言、抄袭内容、偏见内容、错误、失误、不正确的参考文献或误导性内容”，他们仍需对此负责。
Dietterich透露，这将是“一次违规即处罚”的规则，但审核人员必须标记该问题，且板块主席必须在实施处罚前确认相关证据。同时，作者也将有权对决定提出申诉。
背景：伪造参考文献现象抬头
最近的同行评审研究发现，生物医学研究中伪造的参考文献数量正在上升，这可能归因于LLM。不过公平地说，科学家并非唯一因使用AI编造参考文献而中招的人群。