在今天的 I/O 开发者大会上，Google 宣布推出最新大型语言模型（LLM）PaLM 2。该模型将为升级版 Bard 聊天工具提供动力，作为 Google 对标 OpenAI ChatGPT 的核心产品，并构成今日发布的大多数新 AI 功能的基础。目前，开发者可通过 PaLM API、Firebase 及 Colab 使用 PaLM 2。
与 OpenAI 类似，Google 未披露 PaLM 2 的具体参数量等训练细节（注：PaLM 1 参数量为 5400 亿）。唯一公开的技术信息是，PaLM 2 基于 Google 最新的 JAX 和 TPU v4 基础设施构建。
DeepMind 副总裁 Zoubin Ghahramani 在媒体简报会上表示：“工作中我们发现，模型大小并非关键，更大并不总是更好。因此我们提供了一系列不同规模的模型。参数量并非衡量能力的有效标准，模型能力应由用户通过实际测试来评估。”
Google 将重心放在能力提升上。新模型在常识推理、数学和逻辑方面表现更佳。Ghahramani 指出，团队使用了大量数学、科学文本及表达式进行训练。尽管大语言模型通常难以独立处理数学问题，但 Google 认为 PaLM 2 可轻松解决数学谜题、进行逻辑推理甚至生成图表。
PaLM 2 还增强了代码编写与调试支持。该模型在 JavaScript、Python、Prolog、Verilog 和 Fortran 等 20 种编程语言上进行了训练。它构成了专为编码设计的 Codey 模型基础，Codey 今日也作为代码补全和生成服务的一部分正式推出。
此外，PaLM 2 在包含超过 100 种语言的语料库上进行训练，在多语言任务方面表现出色，能够处理比前代模型更细微的语言表达。
Google 将 PaLM 定义为一个模型家族，除 Codey 外，还包括专注医学知识的 Med-PaLM 2、专注安全用例的 Sec-PaLM，以及可在智能手机上运行的小型 PaLM 2 模型。小型版每秒可处理 20 个 token，虽速度不算极快，但已能满足部分以隐私为中心的用例需求（具体测试机型未公布）。
众所周知，Google 在推出 AI 功能时一贯谨慎。公司代表强调，这些工具始终以负责任和安全的方式构建。由于发布前无法进行测试，PaLM 2 的实际表现及边缘情况处理能力仍有待验证。
