人工智能艺术工具 Stable Diffusion 背后的公司 Stability AI 宣布推出开源大语言模型包 StableLM。该模型以 Alpha 版本在 GitHub 和 Hugging Face 上线，兼具代码与文本生成能力，证明了小型高效模型经适当训练后的高性能潜力。
模型参数与合作背景
StableLM 公开版包含 30 亿和 70 亿参数模型，另有 150 亿、300 亿及 650 亿参数模型正在开发中。此次发布基于 Stability AI 与非营利机构 EleutherAI 的合作经验，延续了 GPT-J、GPT-NeoX 等基于 The Pile 数据集训练的开源模型路线，并为 Cerebras-GPT、Dolly-2 等新模型奠定基础。
专属数据集与技术承诺
尽管沿用 The Pile 基础，Stability AI 构建了规模扩大三倍的专用训练集。公司强调语言模型是其经济核心支柱，致力于通过 StableLM 践行透明、可访问及支持性 AI 技术的承诺，让公众参与设计过程。
性能评估与未来展望
目前官方尚未披露 StableLM 的具体限制与稳健性数据，团队表示将尽快公布模型特性及训练设置等详细信息。总体而言，若测试表现达标，StableLM 有望成为 OpenAI ChatGPT 的强大开源替代方案。