PaLM 2与GPT-4等文本生成式人工智能的名单几乎每天都在增长。大多数此类模型都通过API进行封闭，研究人员无法确切了解其内部运作机制。但越来越多的社区努力正在催生开源AI，其复杂程度不亚于甚至超过商业同类产品。
这些努力的最新成果是开放语言模型（Open Language Model，简称OLMo），这是一个大型语言模型，由非营利组织艾伦人工智能研究所（Allen Institute for AI Research，简称AI2）计划于2024年某时发布。OLMo正与AMD、提供超算能力用于训练和教育的大型统一现代基础设施联盟（Large Unified Modern Infrastructure consortium），以及Surge AI和MosaicML（提供数据和训练代码）合作开发。
缩小公共研究与私人研究差距
AI2自然语言处理研究高级总监Hanna Hajishirzi在电子邮件采访中表示：“研究和科技界需要访问开源语言模型以推进这一科学领域。”“借助OLMo，我们正在努力通过构建一个具有竞争力的语言模型，缩小公共研究与私人研究能力及知识之间的差距。”
人们不禁要问——包括本记者在内——既然已有多个选择（如Bloom、Meta的LLaMA等），AI2为何仍有必要开发一个开源语言模型？在Hajishirzi看来，尽管迄今为止的开源发布颇具价值甚至具有开拓性，但它们在某些方面仍未达到预期目标。
AI2将OLMo视为一个平台，而不仅仅是一个模型——该平台将使研究社区能够使用AI2创建的每个组件，或自行改进它们。Hajishirzi表示，AI2为OLMo制作的所有内容都将公开可用，包括公共演示、训练数据集和API，并在“适当”许可下以“非常有限”的例外情况进行记录。
Hajishirzi说：“我们构建OLMo是为了让AI研究社区能够更广泛地直接参与语言模型的工作。”“我们相信，OLMo所有方面的广泛可用性将使研究社区能够利用我们所创造的成果并加以改进。我们的最终目标是协作构建世界上最好的开源语言模型。”
专注于科学与学术应用
据AI2高级NLP研究主任Noah Smith所述，OLMo的另一大差异化特点在于其专注于使模型更好地利用和理解教科书及学术论文，而非代码；此前也有过类似尝试，例如Meta臭名昭著的Galactica模型，但Hajishirzi认为，AI2在学术界的工作及其为研究开发的工具（如Semantic Scholar）将有助于使OLMo“独特地适合”科学与学术应用。
Smith表示：“我们认为OLMo在该领域有可能成为真正特别的存在，尤其是在许多人都急于从对生成式AI模型的兴趣中获利的大环境下。”“AI2作为第三方专家的独特能力为我们提供了机会，使我们不仅能运用自身的世界级专业知识，还能与行业中最顶尖的人才合作。因此，我们认为我们严谨且文档化的方法将为构建下一代安全、有效的AI技术奠定基础。”
应对伦理法律挑战与滥用风险
这当然是一种美好的愿景。但关于训练和发布生成式AI所涉及的棘手伦理和法律问题又该如何看待？围绕内容所有者权利（以及其他受影响利益相关者）的激烈辩论，以及无数令人困扰的问题，尚未在法庭上得到解决。
为了消除担忧，OLMo团队计划与AI2的法律部门及待定外部专家合作，在模型构建过程中的各个“检查点”重新评估隐私和知识产权问题。
那么被滥用的可能性呢？这些模型本身往往就存在毒性和偏见，极易被别有用心之人利用来传播虚假信息并生成恶意代码。
哈吉希尔齐表示，AI2将结合许可协议、模型设计以及对底层组件的有限访问权限，以“在减少有害使用风险的同时最大化科学效益”。为指导政策制定，OLMo设有一个包含内部和外部顾问的道德审查委员会（AI2未透露具体人选），该委员会将在整个模型开发过程中提供反馈。
技术参数与未来展望
我们拭目以待这能带来多大程度的改变。目前，许多事情仍悬而未决——包括模型的大部分技术规格。（AI2确实透露，该模型将拥有约700亿个参数，参数是模型从历史训练数据中学习到的部分。）预计在未来几个月内，训练工作将在芬兰的LUMI超级计算机上启动——截至今年1月，这是欧洲最快的超级计算机。