盘一盘AI大佬曾被拒稿的“最佳论文”！谷歌AI掌门人Jeff Dean、OpenAI首席科学家榜上有名

一周前，NeurIPS公布了2023 年度获奖论文。

其中时间检验奖颁给了十年前提出开创性的词嵌入技术 word2vec 的NeurIPS 2013论文，这篇论文的作者包含谷歌AI掌门人Jeff Dean以及后来的OpenAI首席科学家 Ilya Sutskever。word2vec目前引用量已经超过 4 万次，该技术可谓大大推动了自然语言处理的发展，本次获奖实至名归，要比单独的一次“最佳论文”更有含金量。

然而有趣的是，word2vec 论文的一作 Tomas Mikolov在获奖后在Facebook上自曝，这篇论文曾被2013年首届 ICLR 会议拒稿，一位审稿人甚至给出了4次强拒绝。

这让Tomas Mikolov感慨审稿人预测论文的未来影响是多么困难。

LoRA 论文的作者也表示在第一次投稿时也被拒绝了，因为审稿人认为 LoRA 太简单了，然而大多数真正有效的事情往往都是简单而优雅的。

事实上，历史上有很多AI大佬们的优秀论文甚至“最佳论文”都曾被顶会拒稿。

ACL 2021最佳论文曾被ICLR拒稿

前字节跳动AI Lab总监、CMU助理教授李磊发推表示，他们的一篇关于词汇学习的论文在 ICLR 2021上被评审全部拒绝（得分是 4、4、3、3），但在修改了论文提交给ACL 2021后，获得了ACL 2021最佳论文。但李磊表示：“我并不抱怨评审，我们确实听取了意见并对论文进行了大幅修改。

当时这件事还在知乎上引起了广泛讨论。

ACL 2021最佳论文：

论文地址：https://arxiv.org/pdf/2012.15671.pdf

CVPR 2020 最佳论文曾被NeurIPS拒稿

CVPR 2020年的最佳论文颁发给了论文《Unsupervised Learning of Probably Symmetric Deformable 3D Objects from Images in the Wild》。这篇论文由牛津大学的吴尚哲、Christian Rupprecht、Andrea Vedak三位合著。

论文地址：https://arxiv.org/abs/1911.11130

吴尚哲曾表示，该篇论文曾被 NeurIPS 2019 拒稿，NeurIPS评审给到的得分分别是 3、5、7，但遗憾被拒，吴尚哲感慨：“当时投给NeurIPS时，论文工作确实还要需要完善的，论文写作也不够出彩，很庆幸被NeurIPS拒了”。

ICLR 2019最佳论文曾被NeurIPS拒稿

一位在MIT读博士的知乎网友爆料，提出了彩票假设理论的 ICLR 2019最佳论文《THE LOTTERY TICKET HYPOTHESIS:FINDING SPARSE, TRAINABLE NEURAL NETWORKS》曾被NeurIPS拒稿。

ICLR 2019最佳论文：

彩票假设：任何随机初始化的稠密的前馈网络都包含具有如下性质的子网络——在独立进行训练时，初始化后的子网络在至多经过与原始网络相同的迭代次数后，能够达到跟原始网络相近的测试准确率。

下面还有两篇曾被顶会拒稿的论文工作，虽然都不是顶会最佳论文，但是含金量要比简单的一篇“最佳论文”高的多。

SIFT 曾被ICCV和CVPR两次拒稿

提出了图像处理领域里大名鼎鼎的的SIFT算法（尺度不变特征转换）的论文，大家肯定都不陌生，原作者David Lowe 亲自承认论文曾被1997 年 ICCV 和 1998 年 CVPR两次被拒稿。

YOLOv1曾被NeurIPS拒稿

计算机视觉领域里无人不知的工作YOLOv1没想到也被NeurIPS拒过。

作者在网站里列出了当时收到的评审，感兴趣的朋友可以查看：

https://pjreddie.com/publications/yolo/

最后，各位科研人员们，如果大家某篇论文被某个顶会拒绝了，请不要灰心不要放弃，说不定转投一下，下一篇顶会最佳论文就是你的了！