桌上放着一个白色的小盒子，比一包烟厚一点，一只手能整个握住。你把线插到电脑上，它就开始回答你的问题，字是一行一行自己冒出来的。
一只手能整个握住，拇指一压就盖上——它整个的体积就这么点
现在把路由器的线拔掉。你接着问，它照样回答你——因为那个大模型不在哪个机房里，就装在这个盒子里，和你的聊天记录一起，从来没离开过这张桌子。
众 筹 战 绩
307万美元 Kickstarter 累计众筹，团队目标只有 1 万美元 |
2181人 掏钱的支持者，人均实付约 1407 美元 |
5小时 从开卖到筹满 100 万美元 |
30692% 最终超额完成的比例 |
2026 年 3 月中旬，它上了海外的众筹平台 Kickstarter，起步价 1399 美元。团队给自己定的目标是 1 万美元——按这个平台的规矩，筹不到这个数，一分钱都拿不到，等于白做一场。
五个小时，一百万美元。上一次在这个平台上跑出同样速度的，是 2022 年的拓竹 Bambu Lab X1。那家公司四年后成了营收百亿的独角兽，所以海外做硬件的人，都盯着这个速度看。
一句话说清它是什么
Tiiny AI Pocket，一个 300 克、能塞进裤兜的小盒子。插上电脑，断网也能在本地跑一个 1200 亿参数的大模型。模型、聊天记录、你让它看过的文件，全躺在你自己那块硬盘里。
做这个盒子的，是上海交通大学的一位副教授，叫糜泽羽。他带着一屋子博士生，把一台超算的活，装进了一个能塞进口袋的塑料壳里。
先说清楚，为什么大家对云端 AI 有意见
过去三年，我们习惯的 AI 是长在云上的。你打一行字，它传到几千公里外的机房里，算完再传回来。这套东西有三个绕不过去的地方，讲得再花哨也绕不过去。
第一，隐私。你和它聊的每一句，都要先从你家走出去。工作文档、往来邮件、家里的照片，都得先上传它才能看见。很多人心里那道坎就卡在这儿：不是不信技术，是不想把整个数字生活的钥匙交出去。
第二，钱和速度。每一次对话背后都是一次跨网调用，按用量计费。用得少感觉不到，可一旦你真把它当日常工具，让它一天到晚替你干活，账单会开始扎人——有人一天能烧掉几百美元，用着用着就学会省着问。
第三，它永远不懂你。云上那个通用模型服务的是所有人，它没有机会持续、安全地学你家里的东西。所以跟你熟了半年，它还是那个千人一面的样子，你得每次重新交代一遍你是谁、你要什么。
这三件事，其实是一句话
你想让 AI 越懂你，就越得把越多东西交出去；你越想少交，它就越不懂你。要么接受一个不懂你的助手，要么接受一个知道太多你的公司。
糜泽羽想解的就是这个死结。他的解法很直接：既然毛病出在「跑在别人家」，那就把它搬回自己家。他不是第一个这么想的人，但他选了一条别人没走通的路。
这个小盒子，到底是个什么东西
插在台式机上，屏幕上跑的是它自己的系统和一串智能体
它的尺寸是 142 毫米长、80 毫米宽、25.3 毫米厚，重 300 克。官方说它跟一台 iPhone 17 Pro Max 差不多大，能直接放进裤子口袋。2025 年 12 月，它拿了一张吉尼斯世界纪录证书，名目是「最小的迷你主机（本地运行 100B 大模型）」。
里面是一颗 SoC 加一颗 dNPU。SoC 你可以理解成手机里那种全能芯片，负责日常调度；dNPU 是专门为 AI 算的电路，别的活它不干。两颗芯片分工，凑出本地跑大模型需要的算力。
注意，它没用英伟达或者 AMD 那种独立显卡。不是不想用，是用不起——这个尺寸和这个价格，根本塞不进一张能跑大模型的显卡。
这一点决定了它跟「买一台大内存电脑跑本地模型」那条路完全不是一回事。现在你想在本地跑一个 120B 的模型，要么配一台接近 80GB 显存的整机，五万块起步；要么买苹果那台 96GB 统一内存的 Mac Studio，两万块出头。选哪条都贵，而且那台机器一跑起模型，内存和算力就被吃满，连开个网页都卡。
它到底有多大、多能装
个头142 × 80 × 25.3 毫米，300 克，能塞进裤兜
算力一颗通用 SoC 加一颗专为 AI 的 dNPU，标称 190 TOPS
内存80GB，所以 1200 亿参数的模型能整个装进去
系统出厂装了五十多款开源模型、一百多个智能体工具，接口兼容 OpenAI 那套
接法一根线插到电脑、平板或手机上，不占你原来的内存和算力
你可以把它想成一块外挂的脑子。你的电脑还是你的电脑，只是旁边多了一个专门负责 AI 的器官，需要的时候接上，不需要的时候拔掉。
2026 年 1 月，它还被带去 CES 展了一回。现场演示是把一台十几年前的老笔记本接上这个盒子，断网跑通一个 120B 的模型——它不看你的电脑有多强，只要求你有一根能插的线。
钱是这么来的
先把价格说清楚。众筹的超级早鸟价是 1399 美元，官方零售价 1999 美元。2181 个人，平均一个人掏了 1407 美元——这个人均数在硬件众筹里偏高。说明掏钱的不是来看热闹的，是真有活要干的人。
它赚的是哪一笔钱
云上：每月会费，或者按调用量一点点算，用得越多交得越多。盒子里：机器一次性买断，之后在本地跑模型不再产生 token 费用。官方把「零 token 费用」四个字直接印在海报上。
这句话是它最狠的地方。云上那些 AI 公司的收入，是你每个月交的会费，或者按用量一点点算的调用费，用得越多交得越多。它反过来：你一次性把机器的钱付清，之后在本地跑模型，再用下去就不额外花钱了。
它的副总裁打过一个比方：这小盒子更像一个装在你家里的水龙头，想用就用，不用按次付费；云上那些按量计费的模型，留给真正需要顶级智力的时候再开。
这话的意思是，它没打算跟云上最强的模型抢活。写重要方案、做复杂推理，你还是会用云上那个；但那些一天要问几十遍的琐事——翻译一段话、整理一堆文件名、把一段录音转成字、盯着某个网页有没有变化——它留在本地帮你消化掉。
另一条来路的钱是融资，跟众筹不是一回事，分开算。2025 年它拿了数千万元人民币的种子轮，云启资本领投，BV 百度风投、光源 L2F 跟投。2026 年 7 月又完成一轮数千万美元的天使轮，顺为资本、经纬创投、锦秋基金、云启资本、戈壁创投、BV 百度风投、光源资本都进来了。
一家成立才一年半、产品还没大规模发货的公司，能让这几家同时出现在股东名单上，说明「把大模型从云里拽出来」这个方向，资本是认的。认归认，钱能不能变成货，下面还有一段要讲。
盒子里的 AI，跟云上那个差在哪
差别不在模型是不是缩水版，而在谁在算、算完算谁的。云上那个 AI，模型在别人的机房里，你的每一句话都得先上传，它的记忆也存在别人的硬盘里，你换个账号它就不认识你了。盒子里这个，模型、记忆、凭证全躺在你桌上这块硬盘里，断网照跑，拔线照聊，不用了拔掉线就行。
更实在的差别是它可以被无限次使唤而不额外花钱。云上的账是每问一次都要付一次过路费，盒子里的账是买完就没别的了。这一条决定了你能怎么用它——你可以让它一天盯二十遍你的文件、回十遍你的消息、跑一整晚任务，而不用一边用一边在心里算钱，更不用因为心疼钱而少问它。
问题来了：120B 参数的模型，怎么可能塞进一个 300 克、还没有独立显卡的盒子里？
它凭什么塞得进去
大模型虽然有一千多亿个参数，但每次回答你的时候，真正被调用的只是其中一小部分，剩下那些大部分时间在睡觉。这套系统把参数分成冷热两组：热的放在离芯片最近、最快的地方；冷的放进便宜的大容量存储，算到哪一块才把那一块搬过来，一次只搬几个 KB。
这套推理加速系统叫 PowerInfer，团队从 2023 年就在做。它让一张消费级显卡跑出了接近机房显卡的效果，论文发在了操作系统领域的顶级会议上。
2024 年他们又往前推了一步：把一个 470 亿参数的模型放进手机里跑，速度是当时国际标杆 llama.cpp 的 29 倍。从电脑到手机，这一步他们比别人早。
为什么非要死磕 120B 这个量级？团队给过一个解释：100B 左右是本地 AI 从玩具变成工具的那条线。低于这条线，模型只会跟你聊天；过了这条线，它才具备复杂的推理能力和调用工具的能力，能干你百分之七八十的活。他们自己说，选的就是这条分水岭。
他们的原话是：我们选择在这个分水岭上，首次把 GPT-4o 级别的复杂推理能力，从云端放进口袋里。
验证这件事的不是他们自己。今年有个专门拆机器的技术博主，拿一台用手机芯片的轻薄笔记本接上这个盒子，当场跑通了一个 120B 的开源模型。
它不抢你电脑的活，只是叠在旁边，专门管 AI 那部分 · ·
做这件事的人，是个大学老师
糜泽羽是上海交通大学的副教授、博士生导师，同时是他自己公司的创始人兼 CEO。他背后的研究所叫 IPADS，全称是并行与分布式系统研究所，这个所近十年在国际计算机排行榜CSRankings 的操作系统方向上，排全球第一——操作系统这东西听着离生活很远，但手机卡不卡、电脑省不省电，都是这一层在管。
换句话说，他不是转行来做硬件的产品经理。他本来就是研究怎么让系统跑得更快的人，钻的是最底层那一层，别人在上面搭应用，他在下面抠那几毫秒。
三件具体的事能看出他的路子。第一，2023 年 12 月团队开源的 PowerInfer，在 GitHub 上拿了 9100 多颗星，连续两天挂在开源项目的全球趋势榜第一——那是一个实验室该有的东西，不是一个创业公司该有的东西，但它偏偏成了一个卖硬件的公司的底子。
第二，2024 年 12 月他们开源了一个 30 亿参数的长链推理模型 SmallThinker，上线七天在 HuggingFace 上被下载了十万次，一度冲到全球趋势榜第二，仅次于 DeepSeek-V3，在文本生成那一类里排第一。那阵子全球最受关注的两个模型，一个是 DeepSeek，一个出自他的实验室。
第三，也是最像他的地方：公司 2025 年 1 月 15 日才注册，注册资本 369 万元，他自己的持股是 51%，剩下 32% 在员工持股平台，17% 在另一位合伙人手里。没有一家外部机构拿到超过三成。
51% 这个数字说明他不是给资本打工的职业经理人，他是把自己赌进去的人。
手机、平板、电脑都能接，哪台跑不动大模型就交给它
公司现在大概三十个人。创始团队来自上海交大、麻省理工、斯坦福、香港科技大学，还有从英特尔和 Meta 出来的人，其余成员里有来自苹果和小米的工程师。一个三十人的小公司，把做芯片的、做系统的、做供应链的凑在了一起。
有个细节挺有意思。他们的副总裁接受采访时说了句大实话：我们没想到端侧 AI 会火的这么快。
这不是谦虚。那波在本地跑大模型的热潮起来之前，他们已经在实验室里做了两年底层系统，产品的原型机 2025 年 4 月就有了，11 月进的试产。等风来的时候，他们手上正好有东西，不是临时拼一个壳子出来接风口。
还有几件事，得说清楚
第一，交付这件事不顺。原计划是 2026 年 8 月交付，实际是 9 月 25 日到 30 日才开始分批出货。官方给的解释很实在：货从越南的生产线出来，先走 5 到 7 天的国际段，到了目的国还要清关；因为这是他们在每个市场的第一次进口清关，光这一步就要至少 5 个工作日，之后才生成尾程单号。
官方给的交付时间表
越南生产线出货 → 国际段 5–7 天 → 目的国首次进口清关至少 5 个工作日 → 生成尾程单号 → 最后一公里派送。原定 8 月，实际 9 月 25–30 日起分批出。
众筹圈子里最怕的就是这个。掏了 1400 美元、等了半年、还看不到单号，Kickstarter 的评论区里已经有人开始着急，有人直接问这东西到底是不是骗局，还有人把每一个已经收到货的人挨个点名，请大家回来报个平安。这种情绪可以理解，毕竟在海外众筹上买到过空头支票的人太多了。
第二，海外的评价是两极的。有人上手之后很喜欢，也有人说它就是个高级玩具——因为一个大模型能不能真的天天用上，取决于你自己的生活里有没有那么多活要干。有人甚至把它的宣传材料反向拆解了一遍，一条条对着参数挑毛病。对一个还没大规模发货的新品类来说，这些质疑都算正常，关键在于货到了之后好不好用。
第三，这条路上不止它一家。就在它众筹的同一个月，国内一家做大模型的公司也发布了类似的本地盒子；深圳、杭州还有几个十几人的小团队在做同一件事，有人在众筹上卖，有人直接官网预售。手机厂商和大厂也都在往这个方向伸手。
所以最该提醒的一句是：它不替你做决定，也不替你写方案。它解决的是这件事能不能不上传、能不能不花钱的问题，不解决你想让它干什么的问题。把上面这几件事想明白，比看参数表有用得多。
官方给的场景就是普通书桌，不用为它单独腾一间机房
最后回到那个盒子
我一直在想，这件事最有意思的地方在哪儿。不是一个大学老师做出了硬件，也不是众筹卖了三百万美元——这两件事这几年见得不算少。是「从云端放进口袋里」这句话背后的那个态度。
过去几年，我们默认了一件事：最强的 AI 一定在别人的机房里。你想用它，就得把东西交出去，还得按月付钱，而且它永远不会有耐心记住你。这个默认，今年被一个 300 克的塑料盒子顶了一下。
它可能成，也可能只是一个过渡产品。手机厂商、芯片厂商、大厂都在这条路上，没人知道五年后还需不需要单独买这样一个盒子。也可能明年就没人记得它了。
但至少有人认真试过一次：把智能的所有权，还给用它的人。这件事如果不赚钱，他们大概撑不到现在；既然撑到了现在，说明有人真的愿意为它掏钱。
“云端的大模型像瓶装矿泉水，好喝。但你每天洗手洗澡，总不能一直用矿泉水。”
断网也能用，这是它敢摆在书桌上的底气
糜泽羽的办公室在上海徐汇一栋写字楼的三层，门口还挂着上海交大研究所的牌子。他从那扇门里走出来，做的是一个能让普通人把 AI 揣在兜里的东西。每次插上线的时候，那些字都是自己从盒子里冒出来的，没有一个字节绕到云上。
素材来自 Tiiny AI 官网、Kickstarter 众筹页及公开报道 · 商业智能AI++