在体验了 Bard 和 Pixel 8 Pro 之后，谷歌旗舰级生成式 AI 模型家族 Gemini 正通过 Vertex AI 面向 Google Cloud 客户推出。
Gemini Pro 是更强模型 Gemini Ultra 的轻量版，目前仅对部分选定客户提供私有预览。现已通过全新的 Gemini Pro API 在 Vertex AI（谷歌全托管 AI 开发平台）中开放公共预览。该 API 暂时在一定限制内免费使用，支持包括欧洲在内的 38 种语言和地区，并具备聊天及内容过滤等功能。
谷歌云首席执行官 Thomas Kurian 表示：“Gemini 是一款最先进的原生多模态模型，具备复杂的推理能力和高级编码技能。”开发人员将能够基于它构建自己的应用程序。
Gemini Pro API
默认情况下，Vertex 中的 Gemini Pro API 接受文本输入并生成文本输出，类似于 Anthropic、AI21 和 Cohere 等生成式文本模型 API。此外，Gemini Pro Vision 端点今日也在预览中推出，可处理文本和图像（包括照片和视频），并输出类似 OpenAI GPT-4 with Vision 模型的文本结果。
图像处理功能解决了此前 Gemini 发布后受到的主要批评之一：即驱动 Bard 的微调版 Gemini Pro 虽属“多模态”模型，却无法接受图像输入。现在，用户终于能亲自体验该模型的图像理解能力。
在 Vertex AI 中，开发人员可利用与 PaLM 2 等托管模型相同的微调工具，将 Gemini Pro 定制到特定场景。Gemini Pro 还可连接外部 API 执行操作或进行“接地”，通过应用、数据库、Web 及 Google 搜索等第三方数据提高响应准确性和相关性。
作为额外的事实核查措施，Vertex AI 现有的引用检查功能现已支持 Gemini Pro，可高亮显示模型用于得出响应的信息来源。
Kurian 表示：“接地功能使我们能够将 Gemini 生成的答案与公司自有系统或网络源中的数据进行比较，从而提升回答质量。”
Kurian 还强调了 Gemini Pro 的控制、审核和治理选项。若这些保证不足以说服开发者，Google 将通过折扣增加吸引力。
Vertex AI 上 Gemini Pro 的输入成本为每字符 0.0025 美元，输出成本为每字符 0.00005 美元（Vertex 客户按每 1,000 个字符计费；Gemini Pro Vision 等模型按每张图像计费）。这分别比前身定价降低了 4 倍和 2 倍。此外，直到明年年初，Vertex AI 客户可免费试用 Gemini Pro。
Kurian 坦言：“我们的目标是用极具吸引力的定价吸引开发者。”
增强 Vertex
Google 正为 Vertex AI 引入新功能，以劝阻开发者转向 Bedrock 等竞争对手平台。
多项新功能与 Gemini Pro 相关。不久后，Vertex 客户将能利用 Gemini Pro 构建自定义对话式语音和聊天代理，提供“支持高级推理的动态交互”。Gemini Pro 还将成为驱动搜索摘要、推荐和答案生成功能的选项，整合来自 OneDrive、Salesforce 等不同来源的多模态文档（如 PDF、图像）以满足查询需求。
Kurian 预计，由 Gemini Pro 驱动的对话和搜索功能将在 2024 年早期推出。
针对 AWS Bedrock 的模型评估功能，Vertex 推出了自动并排比较（Auto SxS）。该功能允许开发者以“按需”、“自动化”方式评估模型。Google 声称 Auto SxS 比手动评估更快且更具成本效益（尽管尚待独立测试验证）。
Google 还向 Vertex 添加了 Mistral 和 Meta 等第三方模型，并引入“逐步”蒸馏技术，可从大型模型创建更小、更专业且低延迟的模型。此外，Google 将其赔偿政策扩展至 PaLM 2 及 Imagen 模型，将为因这些模型输出卷入知识产权纠纷诉讼的合格客户提供法律辩护。
生成式 AI 模型倾向于复述训练数据，这对企业客户而言是显著担忧。若供应商在未获授权情况下使用受版权保护的数据训练模型，其客户可能因项目包含侵权作品而承担责任。
尽管一些供应商以“合理使用”作为抗辩理由，但鉴于企业对风险的警惕，越来越多的供应商正在扩大生成式 AI 产品的赔偿政策。
Google 尚未将 Vertex AI 赔偿政策扩展至覆盖 Gemini Pro API 客户，但表示一旦该 API 正式对外发布，将实施这一扩展。