近年来，人工智能（AI）正在以前所未有的速度对学术传播乃至整个科研过程产生深远影响，图书馆和出版机构均面临着前所未有的机遇与挑战。
在当前背景下，为了更好地理解AI在学术传播中的实际应用，我们汇集了四位图书馆员的观点，以及四位施普林格·自然AI专家的经验，撰写了深度洞察报告《多视角审视学术传播中的人工智能》（Perspectives on AI in scholarly communications）。
这份报告不仅提供了当前 AI在科研领域应用情况的整体概览，还希望通过分享真实案例与实践经验，推动出版机构与图书馆之间的深入协作，探讨 AI 应用中的关键问题与挑战。我们期待这份报告能为图书馆AI时代的角色定位与发展方向提供有价值的参考。
欢迎扫码阅读白皮书全文，探索更多精彩内容
在第一篇文章中，我们对报告进行了全面概览；第二篇文章中，我们邀请受访者分享了他们在日常工作中如何开发或使用AI工具。在本篇文章中，受访者探讨了在为研究人员提供AI工具时需要考虑的关键因素。
所有受访者都强调，虽然AI带来了巨大的机遇，但同时它也需要审慎、透明的实施过程，其核心应植根于伦理和批判性思维，并始终与用户的需求和价值观保持一致。
AI工具的使用应符合伦理标准
所有受访者都强调，AI工具的使用符合伦理标准至关重要，出版商和图书馆在教育和帮助研究人员使用这些工具方面都发挥着关键作用。印度马尼帕尔高等教育学院研究副主任Santhosh表示：“无论好坏，AI在很大程度上已经渗透到了学习和科研工作中。所以现在唯一要做的就是教育和提高认知，让大家了解AI的好处，也要清楚它的弊端。” 英国弗朗西斯·克里克研究所图书与信息服务主管Beth同意这一观点：“我们必须确保将其纳入我们所有的培训中，引导大家正确使用工具，就像我们不鼓励只将谷歌用来查找资料来源一样。”
有时候，这类教育会得到机构委员会与图书馆的共同支持——例如，美国卡内基梅隆大学图书馆馆长兼新兴与融合媒体项目主任Keith指出卡内基梅隆大学有三个活动中心聚焦于遵循伦理或负责任使用AI并因此受益，而Santhosh则与曼尼帕尔高等教育学院的伦理委员会紧密合作。
来自施普林格·自然的受访者也强调，出版商需要确保学术圈的作者以及自身作为AI解决方案的开发者，都以可持续且合乎伦理的方式使用AI。施普林格·自然内容创新副总裁Henning Schoenenberger点明了施普林格·自然以公平、透明、负责、保护隐私和最小化危害为核心的AI原则。“作为出版商，”他说，“我们应为研究人员提供基础设施和服务，使他们能够更快、更有效地创作可靠的内容，同时也提供最佳实践指南，维护与AI安全相关的信任、诚信和声誉。这只有通过人类对技术的监督才能实现。”
确保人工介入
和Henning的观点相同，我们的所有受访者一致认为，只有结合人工干预，才能保障AI的使用合乎伦理；它绝不应该被当作人类智能的替代品。Beth和Letícia都对过度依赖AI而将其作为批判性思维的替代品表示担忧，并强调了人类主体性在学术过程中的重要作用。Letícia是挪威科技大学图书馆资源与数字服务部门主管，她总结道：“AI很重要，也很有用，但它不是万能的，我们仍需要做出判断以及对我们所发表的内容负责。”
施普林格·自然的受访者也从出版和产品开发的角度认同了这一点。Henning分享了他将AI工具整合到出版工作流程中的方法，重点是简化更多行政性较强的工作，同时确保研究和服务的完整性与质量不受影响，并保证研究人员对其工作保持完全主导。
施普林格·自然数据与分析解决方案执行副总裁Harald同意这一观点，并指出随着AI工具的持续发展，人工质量控制变得尤为关键：“我们一直说‘AI辅助的人类’，即我们使用AI来辅助人类更高效地完成工作流程。然而，我们现在所处的领域，我们也可以探讨‘人类辅助的AI’：即我们可以自动提取信息，但始终有人工介入做出关键决策。”
评估数据质量
AI工具通常基于海量数据进行训练，如果没有适当的监督和筛选，这些数据可能会强化既有的偏见。Beth对此感到担忧：“训练材料中既有的偏见可能产生强化效应，这让我很困扰。大语言模型趋近平均值，这是设计使然。”
许多受访者谈到了优质、多样化数据对于开发、训练和实施AI工具的重要性。Keith强调：“我们使用尽可能多样化且具有代表性的数据集训练AI工具。我认为，在研究领域，这一点至关重要。” 施普林格·自然前人工智能产品交付副总裁Heather从出版的角度表示认同：“几年前这些AI系统出现时，有些公司一度认为‘太好了，我们不用修复自己的数据问题了，可以随便输入什么数据’。但结果仍然是‘垃圾进，垃圾出’。在施普林格自然，我们有一个数据能力中心和一个专注于‘为AI准备’数据的团队，正在让数据的质量、伦理和可持续性成为我们AI系统的绝对必要条件。”
Santhosh从另一个角度探讨了这个问题，他承认图书馆和机构需要确保其研究人员在使用AI工具时正确评估数据质量。“我们确保与研究人员沟通，询问他们数据的来源是什么，是如何验证的，”他说。“偶尔一两次，我们也会进行随机核验，检查数据的真实性。”
协同开发AI工具
自2022年底ChatGPT发布以来，市场上AI工具呈爆发式增长，对一部分人来说，AI似乎越来越像是所有问题的答案。Beth表示：“通常人们看到那些光鲜的新事物，就会想，我要怎样才能把这个新东西整合到我正在推行的事情中去，而不去思考它是否真的是适用的工具。”
基于自身开发AI工具的经验，Chris和Heather强调，必须真正理解使用场景和有待解决的问题。正如Chris所说：“我们都有点儿期望AI能像一位穿着闪亮盔甲的骑士一样冲下山来，但这既需要技术，也需要专业知识。你是否真正理解了问题所在？能否帮助验证某个工具确实能完成你想要它完成的？”Heather补充道：“不要为了AI而用AI，应该有理由有目的。它要有助于自己所在的学术群体取得成功，否则就不应该使用。”
受访者一致认为，这是出版商、图书馆以及研究人员进行合作的一个关键领域——应该共同创建AI工具，切实造福整个研究生态。Beth和Keith强调图书馆应尽早与研究人员接触，最大程度地了解他们的需求，继而与出版商和产品开发人员合作测试新的解决方案。Keith表示，他所在的图书馆正在与许多出版商和AI公司沟通：“我们能够代表一些研究人员的需求，希望能在更广泛的层面助力产品开发。”
这种想法在出版商一方也很明显。Harald分享说，施普林格·自然优先考虑与大学、图书馆和研究人员进行持续沟通，探索新的AI使用场景。他解释说：“我们正在寻求反馈，希望了解我们开发的产品实用性如何，同时也对人们可能存在的担忧持开放态度。”这样有助于充分理解用户需求，并且让新工具能真正服务于其目标受众。
欢迎扫描下方二维码或点击“阅读原文”浏览白皮书全文，一起探索更多精彩内容。
