大数跨境

Mistral 推出的在笔记本电脑和移动设备上运行的新一代人工智能模型:Ministral 3B 和 Ministral 8B

Mistral 推出的在笔记本电脑和移动设备上运行的新一代人工智能模型:Ministral 3B 和 Ministral 8B 土耳其小莫
2024-10-17
2
导读:与类似的 Llama 和 Gemma 模型相比,Ministral 3B 和 Ministral 8B 在各项人工智能评估指标中表现更优。

Mistral发布轻量级AI模型Les Ministraux

近期,随着MobileLLM和SmoILM等专注于移动端与笔记本电脑的AI模型相继问世,法国AI公司Mistral也推出了名为Les Ministraux的新系列模型加入这一热潮。

核心特性:大上下文窗口与本地化隐私保护

该系列包含Ministral 3B和Ministral 8B两款模型,均拥有12.8万token的上下文窗口,可处理约50页书籍长度的输入内容。针对设备内翻译、离线智能助手、本地分析及自主机器人等场景,Les Ministraux专为本地运行设计,旨在提供计算高效、低延迟且注重隐私保护的解决方案。

性能表现:小参数超越旧款大模型

Mistral发布的图表显示,Ministral 3B和8B在指令遵循和问题解决能力等指标上,优于同级别的Llama、Gemma模型以及Mistral自家的7B模型。其中,仅30亿参数的Ministral 3B在多数对比中超越了原版70亿参数模型;Ministral 8B的性能则足以与更大规模模型竞争。

应用价值与获取方式

这类紧凑模型丰富了市场选择,使AI能在设备端本地运行,确保敏感数据留存于用户手中。如需在本机运行AI模型,可参考相关文章:帮助您在本机运行AI模型的工具。

目前,Ministral 8B仅限研究下载。开发者可通过Mistral云平台La Platforme及即将合作的其他云平台使用这两款模型。商业授权方面,Ministral 8B定价为每百万输出/输入token 10美分(约合75万单词),Ministral 3B为每百万输出/输入token 4美分。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 45623
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读56.4k
粉丝0
内容45.6k