2010年至2021年间,尽管AI论文跨国合作增速放缓,但中美人工智能研究合作数量仍增长约4倍,是中英合作总数的2.5倍。不过,2020至2021年中美合作仅微增2.1%,创2010年以来最低同比增幅。同期,全球AI论文总量从20万篇增至近50万篇(496,011篇),实现翻倍以上增长。
从发表类型看,2021年AI论文中期刊文章占比60%,会议论文占17%,存储库论文占13%。过去12年,期刊和存储库论文分别增长3倍和26.6倍,但会议论文数量自2019年起呈下降趋势。模式识别、机器学习和计算机视觉仍是研究热点。中国在期刊、会议及存储库论文总量上保持领先;美国在会议和存储库引用方面虽仍居首,但优势正被削弱。值得注意的是,2022年全球54%的大型语言模型和多模态模型由美国机构研发。
中国霸榜AI顶会,但引用量低于美国
在AI期刊论文发表方面,中国长期占据首位,2021年份额达39.8%,欧盟和英国以15.1%位居第二,美国为10.0%。自2010年以来,中国AI期刊论文被引频次占比持续上升,而欧盟、英国和美国均有所下降,三者合计占全球总引用量的65.7%。
在世界顶级会议论文发表方面,2021年中国以26.15%的份额位列第一,欧盟和英国(20.29%)紧随其后,美国(17.23%)排名第三。然而从引用量来看,中国虽产量最高,但影响力仍有差距:美国顶会论文引用量占比23.9%,中国为22.02%。这反映出中国论文数量领先,但在学术质量与影响力方面与美国尚存距离。
在AI论文存储库提交方面,美国以23.48%的占比位居全球第一,中国则为11.87%,处于相对低位。
中国9所机构AI论文发表赶超MIT
2021年全球AI论文发表总量前十的机构中,中国占据9席。麻省理工学院(MIT)位列第十,发表论文1,745篇。
计算机视觉领域中国十强包揽
在计算机视觉(CV)领域,世界前十机构全部来自中国,分别为:中国科学院、上海交通大学、中国科学院大学、清华大学、浙江大学、北京航空航天大学、武汉大学、北京理工大学、哈尔滨工业大学和天津大学。
自然语言处理领域中外机构并存
在自然语言处理(NLP)领域,全球前十机构/企业呈现中外并立格局,包括:中国科学院、卡内基梅隆大学、微软、清华大学、卡内基梅隆大学澳大利亚分校、谷歌、北京大学、中国科学院大学、阿里巴巴和亚马逊。
工业界领先学术界
2022年发布的重要人工智能机器学习系统中,语言系统达23个,是多模态系统的6倍。在核心模型产出上,工业界已全面超越学术界。2014年前,重要模型多由学术界主导;此后工业界迅速崛起。到2022年,32个关键机器学习模型出自工业界,学术界仅贡献3个。
这一转变表明,构建先进AI系统日益依赖海量数据、强大算力和巨额资金,而这些资源更多集中于行业头部企业。2022年,美国发布了16个重要机器学习系统,居全球首位;英国8个,中国3个。自2002年以来,美国在重要AI系统累计创建数量上已远超英国、欧盟和中国。
从研究人员分布看,美国拥有285名相关领域研究者,是英国的2倍以上、中国的近6倍,显示出其在高端人才储备上的显著优势。
LLM越来越大,算力越贵
大型语言模型和多模态模型(又称基础模型)作为新兴主流AI范式,通过在大规模数据上训练,可广泛应用于各类下游任务。ChatGPT、DALL-E 2和Make-A-Video等模型已展现强大能力并加速落地。分析显示,这些模型的研发人员中54.2%来自美国机构。
斯坦福AI指数报告指出,大模型正朝着更大规模、更高成本方向演进。2019年发布的GPT-2拥有15亿参数,训练成本约5万美元;而2022年推出的谷歌PaLM参数高达5,400亿,训练成本达800万美元。相较之下,PaLM的参数规模是GPT-2的360倍,成本高160倍。
除PaLM外,其他大模型同样昂贵。例如,DeepMind于2022年5月发布的Chinchilla模型训练耗资约210万美元,BLOOM模型训练成本约为230万美元。整体趋势表明,大模型的参数规模与训练投入正同步攀升。
此外,在人脸生成技术方面,GAN持续取得进展,最新Diffusion-GAN模型已在STL-10数据集上达到当前最优性能(SOTA)。
文字来自:新智元

