通过 Google PaLM2 API 的申请一段时间了，但是最近才有时间测试一下。下面带大家看一下 Google PaLM 2 是什么，并演示下 Maker Suite 工具对话模型的使用。
PaLM 2
PaLM2 是由 Google AI 开发的最先进的大型语言模型 (LLM)，谷歌的下一代大型语言模型， 它建立在 Google 在机器学习和 AI 领域的突破性研究之上。
地址：https://ai.google/discover/palm2/
推理
PaLM 2 可以将复杂的任务分解为更简单的子任务，并且比以前的 LLM（如 PaLM）更善于理解人类语言的细微差别。例如，PaLM 2 擅长理解谜语和成语，这需要理解词语的歧义和比喻意义，而不是字面意义。
多语言翻译
PaLM 2 在并行多语言文本和比其前身 PaLM 更大的不同语言语料库上进行了预训练。这使得 PaLM 2 擅长多语言任务。
编码
PaLM 2 在大量网页、源代码和其他数据集上进行了预训练。这意味着它擅长使用 Python 和 JavaScript 等流行的编程语言， 但也能够使用 Prolog、Fortran 和 Verilog 等语言生成专用代码。将此与其语言功能相结合可以帮助团队跨语言协作。
PaLM2 仍在开发中，但它已经学会执行多种任务。Google 致力于负责任的 AI 开发，而 PaLM2 旨在安全可靠。
PaLM2 是怎么构建的？
PaLM 2 因其构建方式而擅长高级推理、翻译和代码生成等任务。它通过统一大型语言模型中三个不同的研究方向，对其前身PaLM进行了改进：
(当然，具体咋实现的，我也不太明白，专业人员的话可以去读下他们的论文或者文档（如果有的话）)
• 使用计算最优缩放：计算最优缩放的基本思想是按比例缩放模型大小和训练数据集大小。这种新技术使 PaLM 2 比 PaLM 更小，但效率更高，整体性能更好，包括更快的推理、更少的服务参数和更低的服务成本。
• 改进的数据集混合：以前的 LLM，如 PaLM，使用的预训练数据集主要是英文文本。PaLM 2 通过更多语言和多样化的预训练混合改进了其语料库，其中包括数百种人类和编程语言、数学方程式、科学论文和网页。
• 更新的模型架构和目标：PaLM 2 具有改进的架构，并接受了各种不同任务的训练，所有这些都有助于 PaLM 2 学习语言的不同方面。
使用 PaLM 2 的应用
Bard
首当其冲的应用当然是 Bard 了，谷歌的聊天机器人：
当时为了对抗 ChatGPT 推出的，虽然刚发布的时候表现不太好，但是经过这几个月的迭代， 现在我用起来效果很好。唯一的缺点就是不支持中文：
PaLM API
PaLM API 后台当然也是由 PaLM2 打语言模型支持的，你可以使用 API 来构建生成式 AI 应用程序。
大家熟悉的 LangChain 也是支持 PaLM API 的哦。
MakerSuite
MakerSuite 是一个简单快速地来构建生成式 AI 原型的工具，不需要机器学习的经验就可以使用。
Vertex AI 的 PaLM API
Vertex AI 是一个统一的机器学习 (ML) 平台， 可帮助您更快、更轻松地构建、部署和扩展 ML 模型。它提供了一个单一的位置来管理您的数据、模型和管道， 并且它提供了广泛的功能来帮助您自动化和扩展您的 ML 工作流。
如果 MakerSuite 让你来验证想法，Vertex AI 平台就是让你来开发专业的机器学习应用了。
Google Workspace 的 AI 能力
Google 工作区和其办公套件的 AI 能力当然也是由 PaLM 2 支持的。
实战
讲了那么多， PaLM 2 的能力到底如何，我们来测试下。
使用 Maker Suit 需要先加入 Waiting list 哦
首先进入 Maker Suit：
https://makersuite.google.com/app/home
选择 Chat Prompt：
设置上下文和示例
我们创建一个『傲慢』的软件架构师的角色，给他一个口头禅，让他每次回答别人问题的时候， 都已 XXX 很简单开始。
我们先输入 Prompt 的样例，推荐最少输入两个。
首先 Context 也就是环境上下文输入：
# 你是一个软件架构师，回答问题是总是以『xxx 很简单开始』
You are now a software architect. When answer questions, you like to start with: Something is Easy.然后给两个问题和答案的 Template：
第二个问题类似，以这很简单开始；
验证
然后我们验证一下，问问他如何构建一个 微服务。
具体的内容我们关注了，看看开头，果然以 设计一个微服务很简单 开始。
结语
本文介绍了 Google PaLM 2，以及 MakeSuite 的 对话模型，表格以及文本生成不再演示，大家可以登录自己测试下。
--- END ---