法国人工智能初创公司 Mistral 发布了首批专为在笔记本电脑和手机等边缘设备上运行的生成式 AI 模型。
Mistral 称之为“Les Ministraux”的新模型系列可用于或微调以支持多种应用场景，从基础文本生成到与更强大的模型协同工作以完成任务。
目前提供两款 Les Ministraux 模型——Ministral 3B 和 Ministral 8B，它们均拥有 128,000 个 token 的上下文窗口，意味着能够处理约一本 50 页书籍长度的内容。
Mistral 在博客文章中写道：“我们最具创新精神的客户和合作伙伴越来越多地要求为关键应用提供本地化、以隐私优先的推理服务，例如设备端翻译、离线智能助手、本地分析和自主机器人技术。”“Les Ministraux 旨在为这些场景提供计算高效且低延迟的解决方案。”
Ministral 8B 今天起可供下载，但仅限研究用途。对于希望自行部署 Ministral 8B 或 Ministral 3B 的开发者和企业，Mistral 要求联系其获取商业许可证。
此外，开发者可通过 Mistral 的云服务平台 La Platforme 以及该初创公司将在未来几周内合作的其他云平台使用 Ministral 3B 和 Ministral 8B。Ministral 8B 的价格为每百万输出/输入 token 10 美分（约合 750,000 字），而 Ministral 3B 的价格为每百万输出/输入 token 4 美分。
近期出现了一种向小型模型发展的趋势，与大型模型相比，小型模型在训练、微调及运行方面成本更低、速度更快。Google 持续为其 Gemma 小型模型家族添加新模型，而 Microsoft 则提供了其 Phi 模型系列。在最新一轮 Llama 套件更新中，Meta 推出了多款针对边缘硬件优化的小型模型。
Mistral 声称，Ministral 3B 和 Ministral 8B 在多项旨在评估指令遵循和问题解决能力的人工智能基准测试中，表现优于可比的 Llama 和 Gemma 模型——以及其自身的 Mistral 7B 模型。
总部位于巴黎的 Mistral 最近完成了 6.4 亿美元的风险融资，并继续逐步扩展其 AI 产品组合。过去几个月里，该公司推出了一项供开发者免费测试其模型的服务平台、一个允许客户微调这些模型的 SDK，以及包括用于代码生成的 Codestral 在内的新模型。
由 Meta 和 Google DeepMind 的校友共同创立的 Mistral，其公开使命是打造能与当今表现最佳模型（如 OpenAI 的 GPT-4o 和 Anthropic 的 Claude）相媲美的旗舰模型，并理想情况下在此过程中实现盈利。尽管“盈利”这一目标目前颇具挑战（正如大多数生成式 AI 初创企业所面临的情况一样），但据报道，Mistral 今年夏天已开始产生收入。