看来本周是小规模AI模型的天下。
非营利AI研究机构Ai2于周四发布了Olmo 2 1B，这是一个拥有10亿参数的模型，据称在多项基准测试中击败了来自Google、Meta和Alibaba的同类规模模型。参数（有时也称为权重）是引导模型行为的内部组件。
Olmo 2 1B在AI开发平台Hugging Face上以宽松的Apache 2.0许可证提供。与大多数模型不同，Olmo 2 1B可以从头开始复现，因为Ai2提供了用于开发它的代码和数据集（Olmo-mix-1124和Dolmino-mix-1124）。
小型模型可能不如那些庞然大物般的能力强大，但重要的是，它们不需要强大的硬件即可运行。这使得它们对于受限于低端硬件和消费级设备的开发者和爱好者来说更加易于获取和使用。
过去几天里涌现了大量小型模型的发布，从微软的Phi 4推理家族到Qwen的2.5 Omni 3B。其中大多数模型，包括Olmo 2 1B，都可以轻松在现代笔记本电脑甚至移动设备上运行。
Ai2表示，Olmo 2 1B是在一个包含4万亿token的数据集上训练而成的，这些数据来源于公开可用、AI生成以及人工创建的资源。Token是模型摄入和生成的原始数据片段，一百万个token大约相当于75万个单词。
在衡量算术推理能力的GSM8K基准测试中，Olmo 2 1B的表现优于Google的Gemma 3 1B、Meta的Llama 3.2 1B以及Alibaba的Qwen 2.5 1.5B。在用于评估事实准确性的TruthfulQA测试中，Olmo 2 1B的性能也超越了上述三款模型。
该模型在4万亿个高质量token上进行了预训练，遵循与我们7B、13B和32B模型相同的高质量预训练及高质量退火标准。我们上传了训练中每1000步的中间检查点。
然而，Ai2警告称Olmo 2 1B存在风险。该组织表示，像所有AI模型一样，它可能会产生“有问题的输出”，包括有害和“敏感”内容，以及事实性错误的陈述。出于这些原因，Ai2建议不要在商业环境中部署Olmo 2 1B。