当人们惊叹于AIGC应用的层出不穷时，却鲜少知道背后支撑这一切的算力资源却正经历一场“分配危机”。如何让异构GPU资源得到最大化利用，已不再是少数巨头的烦恼，而是摆在所有AI从业者面前的一道必答题。
本期节目中，我们邀请到密瓜智能的创始人兼首席执行官张潇，他是容器管理、多云、多集群AI Infra等领域的资深专家，曾带领团队主导的产品多次入围Gartner魔力象限，并拥有超过5+的云计算相关发明专利。节目中，张潇为我们详细解密了密瓜智能是如何通过其核心的虚拟化技术与开源战略，为AI算力降本增效这一核心难题提供创新解法。
密瓜智能其技术基座 CNCF 项目 HAMi是目前行业内唯一专注于异构 GPU 资源共享的开源项目，通过灵活、可靠、按需、弹性的 GPU 虚拟化来提升资源利用率，可以插拔式、轻量化、无侵入地部署在任意公有云、私有云、混合云环境中，可支持 NVIDIA、昇腾、沐曦、寒武纪、海光、摩尔线程，天数智芯等异构芯片。截至目前，HAMi 已经被超过 60+ 操作系统厂商、算力云厂商以及垂直行业客户所采纳，成功地在金融、物流、智驾、机器人、生物科技等行业中实现了从 0 到 1 的落地。
左一主持人白双、右一密瓜智能张潇
以开源构建生态
化解异构算力“孤岛”
当前算力市场面临一个普遍痛点：一方面，大量算力中心建成后处于闲置状态；另一方面，终端用户和开发者却感叹算力极其昂贵。张潇认为，问题的根源在于算力分配的颗粒度过大，传统的调度模式通常以“整张GPU卡”为最小单位，就像买西瓜只能整个买，即使吃不完也会造成浪费。
密瓜智能的核心工作正是要解决这个问题。他们通过深度虚拟化技术，将GPU资源进行精细化切分，让算力的分配能够深入到“卡”的内部，实现按需供给。这不仅避免了“杀鸡用牛刀”式的资源浪费，也让多个应用可以共享同一张卡，从而大幅提升整体利用率。
“目前我们发现行业里面最小的调度单位可能还是整卡，但是我们的调度的单位可能能够细化到1%的算力和一兆的显存这么1个计算的，于是我们就把一块算力切分成很多小份之后，然后分给不同的一些应用去使用。”张潇表示。
面对市场上NVIDIA、昇腾、寒武纪等多种规格各异的GPU芯片，任何单一厂商都难以独立完成所有适配工作。如果采用闭源模式，就将陷入“一家公司”对“N家厂商”的适配困境。因此，密瓜智能从创立第一天起就坚定地选择了开源战略。
通过开源社区，密瓜智能将自己定位为一个生态的构建者和连接者，而非仅仅是一个产品提供商。这种模式吸引了众多芯片厂商、云服务商和开发者主动加入，共同建设和维护这个生态系统。当社区的力量被激活，不同厂商的芯片就能更快地被适配和支持，从而为终端用户屏蔽了底层硬件的复杂性，真正解决了异构算力的管理难题。
张潇进一步指出：“这也是我们觉得只有开源才能做得好的一个原因，因为我如果用一个必然的模式去做，其实我就是变成了厂商对N个GPU厂商，但是如果我用一个社区的话，其实大家都会在这个社区里面来做贡献。”
价值驱动
探索按效果付费的共赢之路
开源并不意味着没有商业模式。密瓜智能的商业化路径清晰地建立在为客户创造可量化价值的基础上。通过开源社区，他们积累了大量用户，并对用户画像进行了分层，从而精准识别出具有付费意愿的企业客户，如大型互联网公司、云厂商和自动驾驶企业。
更具创新性的是，他们正在探索与算力租赁公司合作，实践一种按效果付费的模式。通过帮助租赁商将原先只能整张出租的GPU卡切分成多份进行精细化出租，密瓜智能直接帮助客户提升了营收。在这种模式下，密瓜智能的收益与客户的增长紧密绑定，形成了一种健康的共赢关系。
而对于未来发展路径，密瓜智能和团队创始人显然有着更积极宏大的愿景：那就是打造一个源自中国、走向全球的AI基础设施开源项目。当前在国内，其生态已经初具规模，并获得了市场的积极反馈。然而，如何将这一成功模式复制到海外，构建一个真正能够支持全球化运营的组织，是张潇和他的团队正在积极思考和面对的核心挑战。
这不仅涉及到产品和技术的本地化，更考验着团队的组织能力、跨文化协作能力以及全球化视野。这既是挑战，也是密瓜智能迈向下一阶段的关键一步。
从技术创新到生态构建，再到商业模式的探索，密瓜智能的故事为我们展示了在AI时代，一家技术驱动型公司如何找准自己的生态位，通过开源的力量解决行业核心痛点。我们期待看到密瓜智能能够成功应对全球化的挑战，成为AI基础设施领域中一股不可或缺的中国力量。
