编者摘要:Gerbil SDK 面向开发者与企业,主打私有专用小模型微调,最大卖点是训练完成后模型权重完全交付用户,没有厂商锁定,一份模型产物可以同时跑在浏览器、Node 服务、服务器、手机端侧。
两大微调路线:一是 XSLM 模式,从零学习业务任务,模型体积只有几 MB;二是 Adapter(Flavor)适配器模式,复用已有通用基座,只训练 MB 级增量参数,基座只需要下载缓存一次,可以热插拔切换多个业务技能,非常适合端侧离线场景。
业务落地最大价值在于替代高成本通用大模型 API:直接读取线上 API 日志做蒸馏,不需要人工标注,在分类、信息抽取、改写、文本生成类任务上,效果对标通用大模型,调用成本下降约 50 倍,并且推理可以完全在内网 / 端侧完成,数据不出环境。 平台提供可视化训练界面,不需要机器学习团队,用户上传 CSV/JSONL,甚至只口述业务任务,平台自动生成数据集,托管 GPU 完成训练;训练结束浏览器直接对比测试效果,之后下载权重或者一键开启托管服务。
高级能力 AutoTrain 实现模型闭环自迭代:对接 Notion、Slack、Webhook 等业务数据源,持续获取真实业务样本,增量 LoRA 重训练;新版本先灰度切一部分真实流量做验证,效果提升自动全量上线,效果退化自动回滚,保存完整版本历史。
Swarm 集群能力支持一套基座加载 N 个 Adapter 适配器,32 个业务专家模型内存占用仅为完整独立模型的 1/25,非常适合多业务场景。
商业模式区别于传统 API 租赁:Demo 免费体验;Train&Own 一次性付费(99 美元起)获得模型所有权;托管按月订阅;AutoTrain 自动迭代 499 美元 / 月起。同时支持企业私有化、SLA、SOC2/HIPAA 合规等定制需求。
10 个关键问题问答
Q1:Gerbil‑SDK 核心定位是什么?
A:面向企业 / 开发者的专用小模型微调平台,核心差异:训练产出的模型权重完全归用户,无厂商锁定;一份模型构件可跨浏览器、Node、服务端、端侧设备到处运行;支持完整训练、Adapter 增量微调、自动持续迭代。
Q2:XSLM 和 Adapter (Flavor) 两种模式怎么选?
A:
- XSLM
模型只学你的业务任务,体积仅数 MB;适合任务边界清晰、不需要通用世界知识,追求极致轻量端侧部署。 - Adapter(Flavor)
复用已有语言基座,只训练 MB 级增量参数;适合需要常识、开放式输入;基座缓存一次,技能包热插拔切换,支持离线。
Q3:如何做到替代高价通用大模型 API?
A:直接读取生产环境 API 日志做模型蒸馏,无需人工标注。专用小模型在目标任务效果对齐前沿大模型,调用成本约降低 50 倍;推理跑在自有硬件 / 端侧,数据不外流。示例:月开销从 $8000 降到 $499。
Q4:我真的完全拥有训练出来的模型权重吗?
A:是的。Train&Own 付费后可下载原生权重文件;不订阅 Gerbil 服务,依然可以永久运行模型,没有锁闭。托管只是可选增值服务,不是必要条件。
Q5:需要准备什么样训练数据?
A:支持上传 JSONL / CSV;也可以仅文字描述业务任务,平台自动生成数据集;还可以直接导入线上生产日志做蒸馏,省去标注。单模型入门支持最多 1000 条样本。
Q6:模型能跑在哪些环境?
A:同一原生产物,无需格式转换:浏览器、Node.js 应用、自有服务器、手机端侧设备;Adapter 模式基座 + Flavor 全部缓存后,可完全离线推理。
Q7:AutoTrain 自动训练是什么能力?
A:模型自迭代闭环。对接 Slack/Notion/GitHub/Webhook 获取新样本,增量 LoRA 重训练;新版本 10% 流量灰度验证;效果提升自动全量上线,变差自动回滚;保留全部版本历史,支持一键回退。
Q8:Swarm 模型集群价值是什么?
A:单基座 + N 个 Adapter 适配器,而不是 N 个完整独立模型。每新增一个业务专家仅增加约 4MB;32 个业务模型场景内存占用降低 25 倍;单 GPU 或浏览器同时跑多个业务能力。
Q9:价格怎么理解,付费模式?
A:不是 token 租赁模式,是「付费获取模型所有权」:
-
Demo:免费完整体验流程; -
Train&Own:$99 起,一次性付费获得模型权重; -
Host 托管:$20 / 月私有推理端点; -
AutoTrain:$499 / 月起,自动持续迭代。
企业可采购专属 SLA、VPC、SOC2/HIPAA、私有化部署。
Q10:适合哪些业务场景,不适合什么场景?
A:✅适合:工单分类、结构化抽取、文案改写、路由分流、领域翻译、结构化摘要等确定性业务任务。 ❌不适合:通用聊天、开放式创意生成这类强依赖通用大模型原生能力的场景。
附录: Gerbil SDK 产品解读
Gerbil SDK:小模型微调平台,核心定位:用自有数据训练专用小模型,权重完全归用户所有,任意环境部署运行
官网:
-
微调工具页:https://www.gerbilsdk.com/tune#tune‑tool -
文档:https://www.gerbilsdk.com/docs/tune
Train a small model on your data.Own the weights. Run it anywhere. Bring your data, or just describe the task. Get back a small specialized model, one native artifact that runs anywhere, with weights that are yours to keep.
基于你的数据训练小型模型,权重归你,随处运行。 上传自有数据,或者仅描述业务任务,即可得到一个专用小模型;产出原生模型产物,可任意部署,模型权重完全由你持有。
三大核心亮点
01 极简上手上传数据、选择基座模型、启动训练。无需机器学习专业知识;高级完整配置只需点击一次即可展开。
02 随处可运行同一套原生模型产物,支持端侧设备、Node.js、云端托管。训练完成后立刻就可以在浏览器内直接测试。
03 完全归你所有下载权重文件,永久任意运行。模型不存在任何厂商锁定。
成本优化:削减通用大模型 API 账单
你正在按 Token 付费调用通用前沿大模型,去执行单一、重复的业务任务。 把 Gerbil 对接你的生产日志,它会把线上流量蒸馏成专用小模型:效果持平、成本大幅降低,可跑在你自有硬件上,数据全程不外流。
-
直接从现有 API 调用日志做模型蒸馏,无需人工标注 -
任务效果相当,单次调用成本大约降低 50 倍 -
部署在自有基础设施或者端侧,数据不会离开你的环境 -
既可以调优微型专用模型,也可以调优参数更大的通用模型,自由选择
示例月度开销(高并发业务场景) 通用前沿大模型 API:约 8000 美元 / 月 Gerbil 专用模型:499 美元 / 月 实际开销取决于业务流量,平台会根据你的日志评估规模
实操流程:训练一个模型
启动训练任务,观察训练过程,端侧直接测试产出模型。 流程:①定义任务 → ②选择模型规模 / 基座 → ③导入数据 → ④开始训练
你要构建什么模型?两种方式把业务知识注入模型,后续训练流程基本一致。
你的业务任务是否可以完全由样例数据描述?还是模型本身就需要具备通用世界知识?
- XSLM(起价 5 美元):完全属于你的模型
只学习你的业务任务,训练完成后所有权归你。速度快、成本低、随处运行。
-
仅学习你的业务场景 -
随处运行,手机端也可以跑 -
体积仅数 MB,权重完全归你 -
基于你的业务样例构建
- Adapter(适配器):保留基座原有能力
给已经具备语言理解能力的大模型,学习你的业务知识。
-
自带通用语言理解能力 -
适合需要现实世界常识的任务 -
可以处理开放式输入 -
选择基座模型做业务教学
两条路径,同一套工作流:选择规模 / 基座 → 导入数据 → 训练
工作原理
你懂业务,我们搞定机器学习工程提供业务正确样例,Gerbil 负责 GPU 资源、训练过程、模型导出。团队无需招聘 ML 工程师,不用维护基础设施,直接从原始数据得到完全属于自己的模型。
流程:导入数据 → 训练更新权重 → 生成测试 → 获取所有权
- 导入数据,或者口述任务
上传 JSONL / CSV;也可以只描述任务,平台自动生成数据集。 - 训练
在托管 GPU 上对选定基座做微调,你无需接触底层基础设施,只需要监控训练进度。 - 测试
训练结束,直接在浏览器中和原始基座模型做对比对话测试。 - 获取所有权
下载原生权重,或者一键托管部署;支持浏览器、Node、自有服务器运行。
效果验证:专用小模型战胜通用大模型
调优后的小模型,在你的专属业务上效果对标前沿大模型;延迟、体积、成本大幅优化,运行在自有硬件。精度持平,响应从秒级降到毫秒级,调用零额外计费。
|
|
|
|
|
|
|
|
|---|---|---|---|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
以上为代表性示例结果,实际取决于任务与数据集
应用场景
既可以训练单一任务微型专用模型(更快、更省、端侧运行),也可以训练承载企业全部知识的中大型模型,工作流完全一致。
- 分类打标
工单路由、内容审核、记录标签。例:“我的信用卡被扣两次” → 归类账单问题 - 结构化数据抽取
杂乱文本提取干净 JSON 字段。例:发票文本 → {金额,日期,供应商} - 改写格式化
统一企业文风、固定输出格式。例:草稿 → 符合品牌规范回复 - 请求路由分级
请求分发对应队列 / 工具。例:用户请求 → {负责团队,优先级} - 领域翻译本地化
适配专业术语的本地化翻译。例:英文产品文档 → 本地化文案 - 结构化摘要
长文本输出固定可解析摘要。例:聊天记录 → {决策结果,负责人}
基座一次缓存,多技能热切换(Adapter Flavor)
微调本质是基座模型之上的小型增量参数。重型基座只需要缓存一次;不同业务能力以Flavor(技能风味)加载,仅 MB 级别,不是完整 GB 级模型。 同一套缓存基座,可以切换客服智能体、退款分类器等不同业务能力。
-
Flavor 增量包体积很小,支持 OTA 下发;基座已经存放在设备本地 -
基座 + Flavor 缓存完成后,完全离线推理,不需要网络 -
隐私保障:提示词、技能包、输出全部不会离开设备 -
一套基座搭配多套技能库,瞬间切换业务能力,不用为每个任务保存完整模型
代码示例 flavor.ts
await g.loadModel("qwen3.5‑0.8b"); // 大基座,仅缓存一次
await g.loadAdapter("hf:eyal/support‑flavor"); // MB级业务技能包
// 热切换业务能力,基座无需重复下载
await g.loadAdapter("hf:eyal/refunds‑flavor");
开发规划:适配器市场,用于分享、安装 Flavor 技能包;多 Flavor 托管,单 GPU 基于同一个基座对外提供多种业务能力。
Swarm 模型集群:多个专用模型协同运行
每训练一个业务小模型,都可以加入共享模型集群。 每个任务训练独立专用模型,全部跑在同一个基座之上,可单 GPU 运行,也可浏览器运行。新增业务能力仅增加数 MB,而非完整大模型。大量 “专家小模型” 占用的内存远小于一堆完整模型。
数据对比:1 基座 + N 适配器 VS N 个完整独立模型 N=32 个业务专家,内存占用降低 25 倍;新增每个专家约占用 4MB。 相关页面:https://www.gerbilsdk.com/mota 、https://www.gerbilsdk.com/swarm
+AutoTrain 自动持续训练
一次训练的模型会随着业务变化效果衰减。+AutoTrain 对接线上真实业务数据,模型自动迭代优化;每一轮产出同样原生模型产物,只有真实效果提升的版本才会正式上线。
自动迭代闭环
-
拉取:从业务源获取新样本 -
重训练:基于新数据做增量 LoRA 微调 -
灰度发布:10% 流量切到新版本做验证 -
版本推广:效果更好全量上线;效果变差自动回滚
-
每一轮迭代持续提升业务效果,全程无需人工操作 -
数据源连接器:GitHub、Linear、Notion、Slack、Webhook,产品运行自动产生新训练样本 -
A/B 灰度:新版本全量上线前先切部分真实流量验证 -
自动上线 / 回滚:效果提升自动推广,效果下降自动回滚,规避业务退化风险 -
版本历史:全部版本留存、支持差异对比,一键回退任意历史版本
训练频率与定价:按月、按周、按日自动迭代可选
Gerbil 核心优势
✅ 权重完全属于你:下载模型永久使用;不订阅平台也可以继续运行训练好的模型 ✅ 随处部署:一份原生产物,浏览器、Node、自有服务器、端侧设备,无需多份构建包 ✅ 无格式转换:引擎直接加载微调权重;训练完直接运行,中间没有转换步骤 ✅ 默认隐私优先:你的数据用来训练你的模型;端侧推理数据不会离开设备
价格体系:付费获得所有权,不是仅租赁使用权
演示版免费,验证可用之后再付费;一次性付费训练获得模型所有权,按需扩展。
|
|
|
|
|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
以上为 introductory 试行定价,正式版本可能调整。 需要专属托管、SLA 服务等级、VPC 隔离、SOC2 / HIPAA 合规、本地私有化部署,联系销售: mailto:sales@gerbilsdk.com?subject=Gerbil%20Tune%20‑%20Dedicated%2FEnterprise

