上个月，谷歌宣布推出“AI联合科学家”，旨在辅助科学家提出假设和制定研究计划。尽管谷歌将其宣传为发现新知识的工具，但专家指出，该类工具远未达到其公关承诺的水平。
麻省理工学院计算机视觉研究员萨拉·贝里表示：“这款初步工具虽然有趣，但似乎不太可能被认真使用。我不确定科学界对这种假设生成系统是否有需求。”
谷歌是最新一家推动“人工智能将大幅加速科学研究”理念的科技巨头，尤其是在生物医学等文献密集领域。OpenAI首席执行官山姆·阿尔特曼曾预测“超级智能”可大规模加速科学发现；Anthropic首席执行官达里奥·阿莫德伊也大胆预测AI有助于制定癌症治愈方法。
然而，许多研究人员认为目前的AI在指导科学进程方面作用有限，像谷歌的AI联合科学家这类应用更多是炒作，缺乏实证数据支持。
例如，谷歌声称该工具在急性髓系白血病药物重定位等领域展示了潜力。但西北医疗中心-图森分院病理科医生法维亚·杜比克指出，这些结果过于模糊，“任何正当的科学家都不会认真对待”。她表示：“这可以作为起点，但细节缺失令人担忧且难以信任，信息不足使得很难判断其实际帮助。”
这并非谷歌首次因宣称AI突破却未提供复现方法而受批评。2020年，谷歌声称其乳腺肿瘤检测AI优于人类放射科医生，但哈佛和斯坦福研究人员在《自然》杂志反驳称，缺乏详细方法和代码削弱了其科学价值。此外，2023年谷歌称GNoME系统合成了约40种新材料，但外部分析发现其中并无真正全新的材料。
罗切斯特理工学院软件工程助理教授阿希克·胡达布赫什强调：“直到此类工具在不同科学领域经过严格、独立的评估，我们才能真正了解其优势和局限性。AI在受控环境中通常表现良好，但在大规模应用时可能会失败。”
复杂的过程
开发辅助科学发现的AI工具面临预判无数混杂因素的挑战。AI虽可能在缩小庞大可能性列表等广泛探索领域派上用场，但是否具备带来科学突破的跳出框架的问题解决能力尚不清楚。
胡达布赫什指出：“纵观历史，mRNA疫苗等重要进步是由人类直觉及面对怀疑时的坚持推动的。就目前的AI而言，可能并不适合复制这一过程。”
日本索尼计算机科学实验室AI研究者拉娜·西纳帕延认为，此类工具关注了错误的科学工作类型。她承认AI在自动化繁琐任务（如总结文献或格式化资助申请）方面有真正价值，但科学界对生成假设的工具需求不大——因为许多研究人员从这项任务中获得智力满足感。
西纳帕延表示：“对许多科学家来说，提出假设是工作中最有趣的部分。我为什么要把乐趣外包给计算机，只留下艰苦的工作？许多生成式AI研究人员误解了人类的动机，导致产品恰恰自动化了我们从中获得乐趣的部分。”
贝里指出，科学过程中最难的一步是设计和实施验证或证伪假设的研究与分析，而这并非当前AI所能企及。AI无法使用物理工具实验，且在数据极其有限的问题上表现往往更差。
贝里补充道：“大多数科学研究不可能完全在虚拟环境中完成，常包含收集新数据和实验室实验等物理环节。这类系统的主要局限性在于缺乏关于实验室、研究人员及其具体目标、过往工作、技能组合及资源的背景信息，这确实限制了其可用性。”
AI风险
人工智能的技术缺陷和风险（如容易产生幻觉）也使科学家对其用于严肃工作持谨慎态度。
胡达布赫什担心，AI工具最终可能在科学文献中制造噪音而非推动进步。最近一项研究发现，由AI制造的“垃圾科学”正在泛滥谷歌学术搜索。
他表示：“如果缺乏仔细监控，AI生成的研究可能会向科学领域充斥大量低质量甚至误导性的内容，从而压垮同行评审流程。被压垮的评审流程本身已是计算机科学等领域面临的挑战，顶级会议投稿数量已呈指数级增长。”
西纳帕延表示，即使设计良好的研究也可能因AI行为不当而受到污染。虽然她赞同有工具辅助文献综述，但目前不会信任AI可靠地执行这项工作。
她说：“这些都是现有工具声称能做到的事，但我个人不会将那些任务交给当前的人工智能。”她还对AI系统的训练方式及高能耗持有异议，“即使所有伦理问题都得到解决，当前的人工智能对我来说仍然不够可靠，我无法基于它们的输出来开展工作。”