今年提交给长期专注于人工智能的学术会议 ICLR 的“AI 生成”研究引发了争议。
至少有三家 AI 实验室——Sakana、Intology 和 Autoscience——声称使用 AI 生成了被 ICLR 研讨会接受的研究；在 ICLR 等会议上，研讨会组织者通常会审查研究以决定是否将其纳入会议的研讨会轨道进行发表。
Sakana 在向 ICLR 提交其 AI 生成的论文之前，已告知 ICLR 领导层并获得同行评审者的同意。ICLR 发言人向 TechCrunch 证实，另外两家实验室——Intology 和 Autoscience——并未这样做。
多位 AI 领域的学者批评 Intology 和 Autoscience 的行为是对科学同行评审过程的滥用。
加州大学圣地亚哥分校计算机科学助理教授 Prithviraj Ammanabrolu 指出：“所有这些 AI 科学家论文都将同行评审平台作为其人类评估手段，但没有人同意提供这种免费劳动。”他表示：“无论该系统多么令人印象深刻，这让我对涉及的所有人失去尊重。请向编辑披露这一点。”
正如批评者所指出的，同行评审是一项耗时、费力且主要由志愿者承担的过程。根据《自然》杂志最近的一项调查，40% 的学者花费两到四个小时来评审一篇研究，而这项工作正日益加剧；去年提交给最大 AI 会议 NeurIPS 的论文数量增长至 17,491 篇，较 2023 年的 12,345 篇增长了 41%。
学术界早已存在 AI 生成内容的抄袭问题，一项分析发现，2023 年提交给 AI 会议的论文中，有 6.5% 至 16.9% 可能包含合成文本；然而，AI 公司利用同行评审来有效基准测试并宣传其技术则是相对新近的现象。
Intology 宣称其 ICLR 成果时写道：“[Intology 的] 论文获得了 unanimously positive reviews（一致好评）。”在同一帖子中，该公司进一步声称，研讨会审稿人称赞了其某篇 AI 生成研究的“巧妙想法”。
学术界对此并不看好。
马里兰大学的博士后研究员 Ashwinee Panda 表示，在未给予研讨会组织者拒绝权的情况下提交 AI 生成的论文，显示出了对“人类审稿人时间的不尊重”。
Panda 补充道：“Sakana 曾联系我们，询问我们是否愿意参与他们在 ICLR 组织的工作坊的实验，我（我们）回答说‘不’……我认为在不联系评审者的情况下将 AI 论文提交到会议是不妥当的。”
并非毫无缘由，许多研究人员对 AI 生成的论文是否值得投入同行评审精力持怀疑态度。
Sakana 自身承认，其 AI 产生了“令人尴尬”的引用错误，并且该公司选择提交的三篇 AI 生成研究中，只有一篇符合会议接受的门槛；出于透明度和对 ICLR 惯例的尊重，Sakana 在该论文得以发表前撤回了其 ICLR 论文。
AI 初创公司 Pleias 的联合创始人 Alexander Doria 表示，大量秘密提交的合成 ICLR 论文表明，需要一家“受监管的公司/公共机构”以收费方式提供“高质量”的 AI 生成研究评估服务。
Doria 指出：“评估工作应由获得全额时间补偿的研究人员完成。”他强调，“学术界不应被用来外包免费的 [AI] 评估工作。”