如果 AI 实验室 PrismML 尚未进入你的视野,它理应如此——并非因为它筹集了巨额资金(事实上仅完成一轮 2225 万美元种子轮融资),而是因为其背后顶尖的技术人才及可能改变行业格局的研发方向。
PrismML 的核心押注在于:具备高性能与推理能力的大语言模型,实际上并不需要庞大的体积。该公司正致力于研发可部署于个人电脑和智能手机端的轻量级推理模型。(市场传闻称其正与苹果公司洽谈,但 CEO Babak Hassibi 未予置评。)
Bonsai 2 27B:极致压缩下的性能保留
周四,PrismML 发布最新模型 Bonsai 2 27B。该模型将阿里开源的 Qwen3.8 27B 压缩至 5.9 GB,内存占用较原版减少 9-10 倍,足以容纳于 PC 甚至高端手机中。
PrismML 由加州理工学院研究人员创立,Hassibi 教授领衔,并聘请 Databricks 联合创始人、伯克利 Sky Computing Lab 主任 Ion Stoica 担任顾问。公司获 Khosla Ventures、Cerberus Capital 及 Caltech 等机构支持。
尽管 Multiverse Computing 等竞品已获大量融资,但 Hassibi 强调 PrismML 的独特性在于“近乎无损”的性能表现。Bonsai 2 在 Qwen 综合基准测试中得分达 98%,优于 3 月首版模型的 95%。数据显示,Qwen 原模型下载量超 1100 万次,PrismML 压缩版额外贡献了 260 万次下载。
技术原理与未来展望
虽然追求 100% 基准测试持平仍具学术探讨性质,且压缩难免带来轻微影响,但 2% 的性能差距在实际应用中并不显著。PrismML 通过“三元权重”技术实现压缩:将原本需 16 位数据的权重简化为 +1、-1 或 0 三种值,从而大幅降低存储需求。
Hassibi 透露,下一款参数量达数千亿级的模型有望数月内推出。他表示:“随着模型规模增大,我们在不损失智能的前提下进行压缩的空间更大,达到 100% 性能保留率也将更容易。”
Ion Stoica 对此表示兴奋,他认为该技术让高级模型得以在本地运行:“用户可随时免费获取智能,且数据无需上传云端,真正实现了隐私保护。”

