曾一度成为全球最有价值公司的英伟达（Nvidia）与欧洲AI新星Mistral AI强强联手，推出全新人工智能模型Mistral-NeMo。该模型拥有120亿参数及12.8万token的广阔上下文窗口，凭借强大的AI能力备受瞩目，旨在实现企业级本地化部署运行。
据Nvidia发布信息显示，该模型基于NVIDIA NeMo框架中的Megatron-LM，在由NVIDIA AI架构组成的DGX Cloud平台上，使用3,072块H100 80GB Tensor Core GPU完成训练。
Nvidia应用深度学习研究副总裁Ryan Catanzaro表示，该模型在Apache 2.0许可协议下开源。双方合作促成了更紧凑且功能强大的模型诞生，用户可在自有系统上运行此类小型模型；Catanzaro指出，Mistral-NeMo实际上能在许多个人拥有的RTX GPU上流畅运行。
该模型专为全球多语言应用设计，在英语、法语、德语、西班牙语、意大利语、葡萄牙语、中文、日语、韩语、阿拉伯语和印地语等语种表现强劲。Mistral-NeMo在100多种语言上进行训练，并采用基于Tiktoken的新分词器Tekken。相比此前使用的SentencePiece分词器，新模型能更高效地压缩自然语言文本和源代码；与Llama 3分词器相比，Tekken在所有语言的文本压缩方面优势显著，提升幅度约85%。
性能对比方面，Mistral-NeMo在所有指标上均超越Gemma 2 9B和Llama 3 8B。具体而言，其在除MMLU（大规模多任务语言理解）外的所有指标上优于Gemma 2 9B，且在全部测试维度中领先于Llama 3 8B。
近期，小型AI模型成为行业焦点。从Meta到OpenAI，各大厂商接连发布新的小型模型，强调设备端运行对提升AI普及度的重要性。Meta AI团队推出了适配移动设备的紧凑型大语言模型方法MobileLLM；Hugging Face凭借面向移动端的小型语言模型SmolLM脱颖而出；OpenAI也为ChatGPT带来了轻量级模型GPT-4o mini。未来，设备端运行模型将与可访问性深度融合，持续改变AI对人类生活的影响方式。