OpenRouter 联合创始人 Alex Atallah 曾是 NFT 巨头 OpenSea 的缔造者之一。2020 年 NFT 爆发期的服务器危机让他深刻意识到：基础设施公司的生死线不在于流量获取，而在于高并发下的系统韧性。
如今，Alex 将这套经验注入 OpenRouter，致力于在分裂的模型生态中构建“总路由器”。在与 20VC 创始人 Harry Stebbings 的深度对谈中，他阐述了多模型共存、推理服务差异化及下一代 Agent 架构的核心逻辑：
从 OpenSea 学到的教训：规模不是流量来了才开始准备
Harry Stebbings：在创办 OpenRouter 前，你在 OpenSea 经历过一段很不寻常的增长。那段经历带来了什么？
Alex Atallah：OpenSea 初期团队很小，直到 A 轮融资前后才扩张。2020 年 10 月 NFT 交易爆发时，我们面临人手不足、服务器崩溃和搜索索引故障。我的目标很明确：避免重蹈 Twitter“失败鲸”的覆辙。
Alex Atallah：我们随后重构了平台和基础设施，在真实流量到来前进行压测，确保系统能承受 10 倍负载。加密市场的流量峰值难以预测，这段经历让我对系统的扩容能力和可靠性产生了长期的执念。
Alex Atallah：这对 AI 行业同样适用。Anthropic 等公司都经历了难以预测的增长，OpenRouter 亦如此。OpenSea 的经历让我始终坚持为剧烈波动做好准备。
推理服务商不会轻易变成商品
Harry Stebbings：创立时，模型生态里有什么变化是意料之外的？
Alex Atallah：我们未预料到会出现一批专门托管和服务开放权重模型的公司。早期担心市场会被三大云厂商垄断，但现实是，大家很少在超大规模云上跑 GLM，更多选择 Fireworks、Together 等推理服务商。
Alex Atallah：OpenRouter 早期将这些称为"provider one"和"provider fallback"，并未向用户展示实际托管方。后来事实证明，这些服务商上新更快，更擅长处理边缘问题。稳定性不会凭空被供给侧解决。
Harry Stebbings：不少人认为，推理服务层最终会被压成低毛利的商品。你怎么看？
Alex Atallah：当前仍是严重供给受限的市场。推理服务商几乎一直缺算力。GPU 制造商并不希望客户过度集中，Nvidia 也希望市场里有多样化的客户和计算层竞争，这对生态有益。
Alex Atallah：同一个模型由不同服务商部署，效果也会明显不同。我们会持续对不同模型和推理服务商做基准测试。服务商在速度、价格和输出质量上的优化会直接改变用户体验。
Harry Stebbings：Fireworks 的 Lin 曾纠正我：“一个 Token 并不等于另一个 Token。”去同一个目的地，服务商可以让 Token 绕一大圈，也可以让它直达。这就是推理服务商的工作，对吗？
Alex Atallah：我认同。OpenRouter 会帮助用户发现更好的服务商。只要检测到某家服务商在质量、速度或价格上有改进，路由器就会立即给它更多流量。对大型模型，这类变化几乎全天候发生。
Harry Stebbings：如果只能投资一家推理服务商，你会选哪一家？
Alex Atallah：我得保持中立。不过，我更看好两类推理服务商：一类拥有定制硬件和深度底层优化，另一类能让定制变得更容易。未来，LoRA 或"cartridge"或许能让定制结果更可移植，更换基础模型的成本可能从数百美元降到几十美元。
专有模型也会把企业推向多模型
Harry Stebbings：如果每家公司都拥有用自有数据训练的专有模型，这对 OpenRouter 是好事吗？听起来企业会守在自己的模型上。
Alex Atallah：当然是好事。OpenRouter 的使命就是提升整个 AI 生态的“神经多样性”。我们相信多模型未来不可避免。即使某个模型看似满足所有需求，当出现说话方式不同、训练数据不同的新模型时，混合使用的需求就会自然出现。
Alex Atallah：创造力难以被简单量化。若另一个模型训练路径不同，把两个模型一起使用，通常更可能得到有创造力的想法。把所有东西收敛到一个模型没有意义。
Alex Atallah：企业会把自己的专有模型放在核心工作流里，同时使用其他模型完成补充任务。因为周围所有公司都在用新数据训练新模型，其中有些数据和能力对你有价值。无论是提升生产率还是降低成本，你都有动力不断试用生态里的新模型。
Alex Atallah：企业自己的模型必须持续进化才能跟上。没有一个模型会赢下全部市场。更合理的做法，是让模型在对公司有价值的领域形成专长，让它承载品牌的一部分护城河。
路由不是时髦功能，选择权才是产品
Harry Stebbings：Ramp、Merge 等公司都推出或正在推出类似路由能力。路由层会被商品化吗？
Alex Atallah：很多公司因为路由“很时髦”而去做网关，只是为了搭上 AI 增长，而不是为了赢得一个市场。只把网关当副业，会比真正专注于路由的公司落后很多个月。
Alex Atallah：第二，它会减少用户的杠杆。给用户和开发者更多模型选择，就是让他们能利用 AI 里发生的全部创新，也降低对任何单一提供方的依赖。一个不能覆盖完整市场、没有足够灵活性的网关，实际上会把用户从一些所需能力中排除出去。
Harry Stebbings：你们按量付费计划收取 5.5% 的抽成。企业规模大了，会不会觉得太贵，最后自己做路由？
Alex Atallah：5.5% 是按量付费计划的模式。我们也有基于承诺消费的企业计划，承诺消费部分不收取这项费用。未来还会推出更适合企业自助使用的方案。如果企业自带推理服务或自带密钥，相关费用也会取消。
Harry Stebbings：三年后，OpenRouter 最主要的收入来源会是什么？
Alex Atallah：这取决于 AI 市场整体的增长。如果未来几年仍保持每年 10 倍到 15 倍甚至更高的增速，企业和创业公司会继续低估自身所需的推理量。OpenRouter 最有价值的工作，仍会是为那些原本没有计划、突然需要尝试的新模型和超出预期的推理需求提供容量、故障切换和在线保障。
价格降 10 倍，使用量会不会涨得更多
Harry Stebbings：过去 18 个月里 Token 价格下跌约 90%。你们从消费中抽成，价格下跌是否会缩小你们能分到的蛋糕？
Alex Atallah：许多人会提到杰文斯悖论：价格下降 10 倍，使用量会增长超过 10 倍。以 OpenRouter 上的 GPT-5.6 Luna 为例，OpenAI 先降价 5 倍，随后又与我们协调再降 2 倍。两周内，它在 OpenRouter 上的价格下降 10 倍，使用量增长了 13 倍。
Alex Atallah：这很接近一个标准的杰文斯悖论案例。增长在 13 倍的水平上稳定下来。这个变化发生在 DeepSeek 和 GLM 都给出很有竞争力价格的阶段。Luna 的使用量超过了 GLM，OpenAI 也很久以来第一次有模型进入 OpenRouter 按 Token 量计的前三到前五名。
Harry Stebbings：OpenRouter 的 Token 量有多大程度反映整个市场？平台上的前五模型常常都是中国模型，但很多前沿模型用户直接调用 API，并不会经过 OpenRouter。
Alex Atallah：我们的数据确实有偏差。OpenRouter 天然会吸引认同多模型未来的用户，也看不到那些只使用 OpenAI、Anthropic 或 Gemini 的公司，因此可能低估前沿模型。我们会通过用户调研和外部调查估算偏差。
企业的数据安全顾虑：前沿模型与中国模型
Harry Stebbings：Alex Karp 说，企业害怕与前沿模型提供商合作。你的客户也是这样吗？
Alex Atallah：我没有看过他的完整表述，但确实观察到一些不安。对于只是在特定市场把智能能力包装起来的创业公司，靠集成和系统提示词提供服务，模型实验室未来可能有动力进入你的市场。
Alex Atallah：一个原因是，模型实验室会希望让目标企业里的多个团队依赖自己。我把 Claude Design 视为一种战略动作：它未必立刻带来巨额收入，却能让设计团队在组织内部更关心 Anthropic 模型。对那些服务于这类战略团队的创业公司而言，这是更近在眼前的竞争威胁。
Harry Stebbings：Claude Design 会对 Figma 业务造成实质影响吗？
Alex Atallah：我看到很多设计师试用 Claude Design，包括我们自己的设计师，但还没听到明确的重复使用故事。至少从 Figma 公开的经营数字看，它的表现依然很好。
Harry Stebbings：美国企业更害怕前沿模型，还是中国模型？
Alex Atallah：通常是前沿模型。企业往往不清楚自己发送的提示词会怎样被处理、存到哪里、由谁查看，也不能像使用开放权重模型那样，在自己的机器或指定服务商上部署。对习惯在自有基础设施或 VPC 里掌控数据可见性的企业，这种不确定性更直接。
Harry Stebbings：OpenRouter 可能把企业路由到中国模型。有人担心数据安全与供应链信任问题，你是否觉得自己对此负有责任？
Alex Atallah：我们确实有责任让用户安全访问所有模型，客户信任是最重要的目标。如果一个模型被普遍认为不安全，我们会把它从平台下架；如果某个模型可能被不安全地使用，我们会用技术让访问更安全，并与模型实验室合作，确保我们的实践达到行业最佳水平。
Harry Stebbings：但你真的知道 Moonshot、阿里巴巴这些机构内部发生了什么吗？
Alex Atallah：我不能假装自己知道。作为一家美国公司，我们会遵循美国的最佳实践，确保不做不负责任的事。
Alex Atallah：比如，OpenRouter 提供可一键开启的提示词注入防护和 PII 脱敏等能力，为所有推理调用增加安全层。我们希望企业能更安全地部署和试用新模型。我把模型看作互联网：不能因为互联网有风险就把它完全禁掉，正确做法是建立护栏，并用 AI 持续改进这些护栏。
模型洪流：开放权重模型的快速迭代与竞争
Harry Stebbings：未来一到三年，前沿模型和开放模型的发布速度还会这么快吗？
Alex Atallah：会。仅在 7 月，OpenRouter 就上线了 70 个模型，平均大约每 10 小时一个。Agent 实验室也在出现，其中一些最终会推出自己的模型。已经能看到 Cognition、Cursor 等例子，更多 Agent 公司会有动力训练并通过 Agent 分发自己的模型。
Alex Atallah：推动这件事的力量来自多方面：希望促进竞争和多样性的 GPU 厂商、OpenRouter、愿意押注新方法的投资人，以及仍想通过不同训练路径提升智能的创始人。若美国开放权重模型开始取得势头，新的美国模型实验室就会有非中国模型的基础可用，这也会反过来催生更多实验室。
Harry Stebbings：我们是否应该关注开放权重模型的发布速度和质量变化？
Alex Atallah：应该。在他看来，美国在开放权重模型领域目前仍有差距，尽管正在加快。美国有 Poolside、Thinking Machines 等团队，也有其他新实验室，但中国研究人员很强，美国人低估了这一点。
Harry Stebbings：最新的 Kimi 模型有多重要？它真的像外界评价的那么显著吗？
Alex Atallah：Kimi 很不错，但在网络安全能力和长时程任务上仍略落后于前沿模型。GLM 5.2 是开放权重模型的一大步，Kimi 更像是 Moonshot 追上这一台阶的表现。Kimi 的文字语气和文风也很好。相比之下，一些前沿模型在编码能力增强后，写作声音会退化，产出变得难读。这个问题可以修复，但 Kimi 一直有比较有意思的写作能力。
Harry Stebbings：12 个月后，不同开放模型生态之间的差距会扩大还是缩小？
Alex Atallah：中国研究人员很强，美国人经常低估这一点。与此同时，中国模型的网络安全态势和合规问题也需要持续关注。我不了解中国内部的具体情况，不能把这些推测说成事实。
忠诚度、记忆和模型选择权
Harry Stebbings：开发者还会对某个模型保持忠诚吗？
Alex Atallah：会有。OpenRouter 努力把切换成本降到接近零，让用户可以轻松试新模型，同时也会衡量各模型的留存和流失，并在模型实验室需要时分享这些数据。即便已有更适合某个场景的新模型，一些开发者仍会持续留在旧模型上。
Alex Atallah：主要有三个原因。其一，现有应用已经能正常工作，团队不想承担支持机器人突然说出意外内容的风险，更不愿重新做一遍优化和护栏。其二，新模型未必更划算。模型刚发布时能力和价格曲线都会跳升，旧模型价格则会随时间下降。其三，用户对输出有基本信任，常常有一套自己的临时评测。新模型若没有通过这些看似随意、实则贴合业务的测试，用户就会继续选择原本喜欢的模型。
Harry Stebbings：过去人们认为，记忆会成为留住用户的机制。模型知道我的历史提示词、住在哪里、做什么工作，就会越来越适合我。现在还是这样吗？
Alex Atallah：记忆当然能带来留存，关键在于它放在哪里。它可能属于模型、推理服务商、应用、基础设施提供方或路由器，每一层都会尝试掌握记忆。放在应用层，记忆拥有最多的应用上下文，也更不依赖具体模型；放在模型层，个性化基准上可能表现最好，最终智能也可能更高。
Alex Atallah：未来可能是多层记忆的组合，比如同时使用模型层、基础设施层和应用层的记忆。我们还不知道它们会不会相互干扰。但不可能只有某一层掌握全部有价值的记忆，因为应用拥有大量模型实验室并不知道的关键上下文。模型实验室若想得到这些上下文，就必须让应用愿意提供。
Harness 不是另一个 App，它是更可组合的工作界面
Harry Stebbings：Claude Code、Cursor 等 Agent 与 Harness 越来越紧密。路由会不会在独立成长前，就被 Agent 框架吸收掉？
Alex Atallah：Harness 很有意思。OpenRouter 早期的一个判断是，多数应用低估了用户选择模型的意愿。2023 年和 2024 年，很多应用甚至不告诉用户底层是什么模型。我们的判断恰好相反，用户会关心自己在和谁对话，就像解决问题时会在意自己和公司里的哪位员工协作。后来这个判断得到了验证，Notion 等产品开始允许用户选择模型。
Alex Atallah：开发者也会对不同 Harness 产生偏好，因为这是一种用户体验。模型变强后，系统提示词里塞进的大量杂物反而可能拖累表现，增加与用户提示词相矛盾的情况。Anthropic 曾展示过，删掉部分系统提示词内容后，模型矛盾变少、表现更好。现在不少 Harness 也在删代码，以适配最新的前沿模型。
Alex Atallah：这不意味着 Harness 会消失。相反，更多 Harness 会出现。它是建立在模型之上的用户体验，也让不拥有模型的开发者能够拥有用户关系，这一层对经济很有价值。
Harry Stebbings：Harness 和普通 App 到底有什么区别？
Alex Atallah：区别在于可组合性。一个 Harness 可以调用另一个 Harness，也可以在云端沙箱里启动另一个 Harness。
Harry Stebbings：这不就是 API 为 App 做的事情吗？
Alex Atallah：是，但 Harness 通常建立在 Unix 环境上，模型对 Unix 和 bash 命令训练充分，因而比围绕一组复杂 App 做编排更可靠、更确定。让 Agent 操作普通 App 时，会遇到登录、密码、虚拟浏览器、寻找 API 和阅读文档等许多未知问题；进入 Harness 则更容易检查内部发生了什么，也可以直接用自然语言讨论。
模型会变成公用能力，还是仍有品牌和位置
Harry Stebbings：Meta 把新的模型实验室和产品放到很重要的位置。你对他们目前的成果满意吗？他们会成为真正的竞争者吗？
Alex Atallah：他们做得不错。搭建新的模型实验室需要时间，也要处理组织债务，但 Meta 拥有足够资源，可能成为严肃竞争者。它可以利用社交网络和面向人的产品能力，做模型实验室不那么愿意做的事情。
Alex Atallah：不过，新模型仍需要找到明确的位置和核心优势。仅仅做一个“通用能力很强”的模型还不够，最终需要能说清楚“我们在某件事上明显更好”。
Harry Stebbings：我现在会把提示词放进 Arena，让它给出多个模型的并行选项，其中常常会出现我平时绝不会主动选择的模型。这是一种很好的发现机制。只要结果足够好，我不在乎它来自 Kimi、Claude 还是其他模型。模型在这里似乎已经成了一种公用能力。
Alex Atallah：你说模型成了公用能力，是什么意思？
Harry Stebbings：我对模型品牌没有忠诚。我只想看结果，再从中挑最好的。我宁愿让四个模型并行运行，比如由一个前沿模型调度四个开放模型。你认同这种架构吗？
Alex Atallah：完全认同，这种架构值得所有人探索。OpenRouter 已经在帮助开发者实现类似模式：由一个编排模型在需要时调用子 Agent。子 Agent 成本更低，适合处理输出形态明确、问题类型已知、解法较确定的任务，比如文本分类；编排模型则读取结果，继续完成更开放、更不确定的任务。
开放权重生态需要什么：算力、蒸馏与多样性
Harry Stebbings：如果让你负责推动开放权重生态提升竞争力，你会做什么？
Alex Atallah：我会先多和实验室沟通，弄清楚它们蒸馏先进开放权重模型的实际效果。开放权重模型，尤其允许蒸馏的模型，能让开发者拿模型输出为自己训练的模型做强化学习。这是 AI 实验室普遍使用的重要方法，或许能帮助开放模型生态整体进步。
Alex Atallah：蒸馏时可以看到输出，也就能在强化学习展开过程中检查它是否符合想要的模型声音和“宪法”。另一个关键是算力。相较中国，美国仍有算力优势，但新的实验室需要更容易把算力拿到合适的人手中。Nvidia、Google 的 TPU、Amazon 的 Trainium 以及其他芯片公司，都应该参与其中。
Harry Stebbings：蒸馏是否不正当？
Alex Atallah：蒸馏是一种构建模型的技术。封闭模型实验室也会蒸馏模型，比如用大模型训练较小模型。它是在生态中发现有用能力后，把新东西教给模型的方式。实验室当然有权在服务条款中禁止竞争对手这样做，也可以切断相关访问。若目标是做一个专注于单一任务、并不直接竞争的较小模型，据我所知，多数前沿实验室并不禁止。市场会同时容纳允许和不允许蒸馏的公司，OpenRouter 会帮助双方执行各自的服务条款。
关于 Stripe 传闻、成本焦虑与 AI 能做的事
Harry Stebbings：有报道称 Stripe 可能以 100 亿美元收购 OpenRouter。这会发生吗？
Alex Atallah：我不能置评。但无论发生什么，我们都会继续执行原有愿景：让 AI 有安全的访问方式，不让单一垄断者接管市场，让每个人都能探索充满活力的模型生态；当新的服务商、服务器工具和推理相关技术出现时，用户能很容易发现并接入现有 AI 系统。
Harry Stebbings：面对这样的收购数字，你很难不去计算自己可能得到多少吧？
Alex Atallah：我其实不会这么想，个人花费也不多。我更想用个人资本帮助解决那些社会确实需要、却很难形成商业模式的问题。AI 让人们能审阅此前无法处理的大量数据，我希望未来能帮助研究者处理这些问题并获得资助，但现在还没有准备好公开细节。
Harry Stebbings：现在 OpenRouter 上最被低估的模型是什么？
Alex Atallah：Poolside 的模型很出色。这是一家不错的美国新实验室，正在构建体量较小但高效的编码模型，也在开发很多便于使用这些模型的工具，团队很好。
Harry Stebbings：未来三年，70% 的新模型实验室都会消失，你同意吗？
Alex Atallah：不同意，70% 太高了。如果把被大型模型实验室收购也算作“消失”，我估计大约是 50%，其中会发生一些整合。
Harry Stebbings：Dario Amodei 是否应该少一些悲观，多一些乐观？
Alex Atallah：生态里需要有人对未来极度警觉。我希望其他模型实验室不要被排挤，但 Anthropic 的这种声音仍是“神经多样性地图”里重要的一部分。如果没有人保持高度警惕，这个视角就会缺席。
Harry Stebbings：你能看到整个生态的使用情况。有什么很反常、却很少有人讨论的现象？
Alex Atallah：很多公司都在为推理成本焦虑，却不知道怎样把它纳入运营成本。过去员工的成本主要是固定薪酬，或许按季度、绩效评估时调整一次。未来，员工成本会是动态数字，与每个人是否有效地使用昂贵或廉价模型有关。管理者仍要正常评估员工的效率和产出，但也可以把效率和 AI 使用成本放在一起看，识别那些产出好且成本有效的人，也关注产出一般、成本却很高的情形。
Harry Stebbings：最后一个问题。放眼今天的 AI 版图，你最兴奋的方向是什么？
Alex Atallah：一个是罕见病研究。这类问题长期受制于智能或推理瓶颈，需要尝试很多想法并验证是否有效。另一个方向是众包式改善城市和乡村生活。例如，若有人想找到美国或英国所有铅水管的位置，有初步方法却缺乏成熟和压力测试的能力，AI 可能让它成为可能。好点子分散在世界各地，而 AI 能给提出想法的人真正把它做出来的杠杆。
原视频：OpenRouter CEO: Why Chinese Open Models Are Beating the US | Why Enterprises Fear OpenAI & Anthropic（20VC with Harry Stebbings）
编译：Noah Wang
