Gemini 是 Google 的生成式 AI 模型系列,现已支持分析更长的文档、代码库、视频及音频录音。
在2024年Google I/O开发者大会上,Google宣布旗舰模型Gemini 1.5 Pro新版本进入私密预览阶段。该版本可处理多达200万个token,容量翻倍,支持任何商用模型中最大的输入量(次大的Anthropic Claude 3上限为100万token)。
“Token”指原始数据的细分部分。200万token约相当于140万个单词、两小时视频或22小时音频。
除大文件分析外,高token处理能力还能提升模型性能。相比小上下文模型,Gemini 1.5 Pro不易遗忘对话内容或偏离主题,能更好把握数据流向并生成语境丰富的回复。
开发者可在Google AI Studio申请200万token版Gemini 1.5 Pro的等待名单;100万token版将于下月全面开放。
此外,Gemini 1.5 Pro经算法增强,在代码生成、逻辑推理、多轮对话及音视频理解方面表现更佳。现在不仅可对图像和视频进行推理,还支持音频推理,并可通过“系统指令”功能进行引导。
Gemini 1.5 Flash:高效轻量级模型
针对低需求场景,Google公开预览Gemini 1.5 Flash。作为Pro的“蒸馏”版,它专为高频任务构建,同样支持200万token上下文及多模态分析(音频、视频、图像、文本),但仅生成文本。
Google Labs副总裁Josh Woodward表示:“Gemini Pro适用于复杂多步推理任务;若关注输出速度,应使用Flash。”
Flash适用于摘要、聊天、字幕生成及长文档数据提取等任务。它是应对Claude 3 Haiku等低成本模型的方案,已覆盖全球200多个国家和地区(200万token版需申请)。
介绍 Gemini 1.5 Flash ⚡ 这是一款轻量级模型,针对延迟和成本最为重要的任务进行了优化。从今天起,开发人员可以在 Google AI Studio 和 Vertex AI 中使用它,最多支持 100 万 token。#GoogleIO pic.twitter.com/I1adecF9UT — Google (@Google) 2024年5月14日
面向注重成本的开发者,所有Gemini模型将新增“上下文缓存”功能,允许存储知识库等信息以供快速、低成本访问。
企业级平台Vertex AI推出免费Batch API公开预览,支持单请求发送多个提示,降低分类、情感分析及数据提取等负载成本。
Woodward透露,即将推出的“受控生成”功能允许定义JSON或XML等输出格式,进一步提升性价比。“您可以一次性发送所有文件而无需反复重传,这将使长上下文应用更经济实惠。”


