今年5月，IBM在开源Granite生成式AI模型及InstructLab项目基础上，发布了Apache 2.0许可下的全新Granite 3.0 8B和Granite 3.0 2B模型。
同时推出的还有Mixture of Experts (MoE)模型系列，包括Granite 3.0 3B A800M Instruct、Granite 3.0 1B A400M Instruct、Granite 3.0 3B A800M Base和Granite 3.0 1B A400M Base。此外，以优化护栏和安全选项著称的Granite Guardian 3.0 8B和Granite Guardian 3.0 2B也同步亮相。
IBM高级副总裁兼首席商务官Rob Thomas表示，公司基于生成式AI构建的业务规模在技术和咨询领域已超20亿美元。他坦言，在其25年的IBM职业生涯中，从未见过如此快速扩展的业务领域。
Granite 3.0模型系列专注于企业应用，涵盖客户服务、IT自动化、业务流程外包（BPO）、应用开发及网络安全等领域。
训练数据
新模型由IBM中心数据模型工厂团队训练，采用新的两阶段训练法，覆盖12种自然语言和116种编程语言。据IBM高级副总裁兼研究总监Dario Gil介绍，训练过程涉及12万亿个token的数据。
性能基准
在RAG、工具使用和网络安全等核心企业任务中，Granite 3.0 8B Instruct表现平均优于Mistral和Meta同类开源模型。在Hugging Face OpenLLM Leaderboard学术基准测试中，其整体性能也领先于竞品。
不过需注意，在MMLU、MMLU-Pro和AGI-Eval等基准上，Llama 3.2 3B超越了Granite 3.0 2B；在MMLU基准上，Llama 3.1 8B也超过了Granite 3.0 8B。
安全方面，在AttaQ基准测试中，Granite 3.0 8B Instruct在所有衡量维度上均领先于Meta和Mistral模型。建议用户在试用前查阅详细的技术文档进行对比。
除watsonX服务外，新模型还将在Amazon Bedrock、Amazon Sagemaker和Hugging Face上线。预计到今年年底，3.0 8B和2B语言模型将支持扩展至128K上下文窗口及多模态文档理解能力。