全球AI公司竞相开发更大模型，但算力需求巨大。与此同时，部分研究人员和初创公司正致力于在边缘设备（如手机、电脑）上运行小型模型。
初创公司Underdog发布了一款基于其32MB语音模型Woof构建的游戏。
游戏场景为复古科技风房间，内含打字机、CRT显示器及可交互台灯。开场白讽刺了“侵入性”云服务商，暗指云端模型的弊端。
玩家可与打字机和调音器互动：
- 使用键盘输入文字，游戏将通过Woof模型实时朗读；
- 旋转调音器生成不同类型的音乐。
上述功能均在浏览器中通过Underdog的语音生成模型实现。该模型拥有3100万参数，支持大多数设备离线运行，且已向公众开放下载。尽管小型模型难以取代大模型，但足以驱动本地助手体验或创建个性化播客。
此次演示发布于Underdog推出Bark（167MB语音转文本模型）数周后，后者同样专为边缘设备的转录和听写设计。
创始人理念与产品布局
Underdog创始人Sigil Wen向TechCrunch表示，开发初衷是替代Granola等笔记工具，构建可在用户设备上运行的AI系统，确保数据私有化。
“我认为几个月内就能在现有设备上运行当今最强大的模型。我们致力于训练美国制造、开源、强大且允许私人使用的AI模型。”
除两款语音模型外，Underdog还发布了可在笔记本电脑运行的270亿参数模型，并推出一款处于候补名单的应用，定位为Muse和Instinct的本地托管替代方案。