
PaLM 2发布:谷歌AI新引擎助力Bard对标ChatGPT
在昨日举行的Google I/O 2023大会上,谷歌正式发布新一代大型语言模型PaLM 2,并以此驱动AI工具Bard的升级。作为ChatGPT的直接竞品,Bard的定位进一步明确。
技术架构与参数规模
PaLM 2、Google PaLM API、Firebase及Colab同步面向开发者开放。尽管训练细节未公开,但已知该模型拥有5400亿参数,基于JAX框架和TPU v4基础设施构建。
DeepMind副总裁Zoubin Ghahramani强调,模型性能并非单纯取决于参数量级。为此,谷歌推出了多规格模型系列,训练重点聚焦于推理、数学及逻辑能力,而非盲目堆砌参数。通过大量数学与科学文本的训练,PaLM 2可轻松解答数学谜题、进行逻辑推理并生成图表。
代码能力与Codey模型
PaLM 2显著增强了代码编写与纠错能力,支持JavaScript、Python、Prolog、Verilog、Fortran等20种编程语言。同时,它也是谷歌专用编码调试模型Codey的基础;Codey今日同步上线,提供代码补全与生成功能。
PaLM家族矩阵与端侧部署
谷歌将PaLM打造为模型家族,除基础版外,还包括专注医疗信息的Med-PaLM 2、聚焦智能安全的Sec-PaLM,以及轻量级版本Gecko。Gecko体积小巧,可直接在手机端运行。需注意的是,受限于硬件,端侧AI模型的能力仍弱于云端大模型。
行业展望与挑战
PaLM 2有望帮助谷歌缩小与微软等对手在人工智能领域的差距。然而,数据安全、模型幻觉等问题仍是开发者亟待解决的核心挑战。

