大数跨境

KCD演讲回顾|高效 AI 基础设施:业务灵活弹性+云端 GPU 瞬时供应

KCD演讲回顾|高效 AI 基础设施:业务灵活弹性+云端 GPU 瞬时供应 云妙算
2025-03-18
0
导读:如何在公有云中结合 KServe 和 Karpenter,打造高性价比的企业级 AI 推理工作负载。

点击上方卡片,关注「CloudPilot AI」

5分钟,降低50%云成本


上周六,KCD 北京如约举办,活动现场汇聚了上百位开发者加入这场技术盛宴。


CloudPilot AI 的 Tech Lead 姜伟在 AI 专场以高效 AI 基础设施:业务灵活弹性+云端 GPU 瞬时供应为题进行分享,深入解析如何在公有云中结合 KServe 和 Karpenter,打造高性价比的企业级 AI 推理工作负载


姜伟在 KCD Beijing 演讲现场

演讲内容


本次分享中,主要探讨了:


  • AI 推理基础架构的典型场景和挑战

  • 如何结合 KServe 和 Karpenter 解决复杂性及成本难题

  • 如何利用 Karpenter 按需供应 GPU,以满足不同工作负载的需求


以下为本次演讲 PPT:



CloudPilot AI 近期还将在 KubeCon EU 2025 中分享如何通过 Karpenter 自动化 Kubernetes 集群更新,欢迎到现场交流!


推荐阅读

别再被忽悠啦!揭秘 AWS Savings Plans 的糖衣炮弹:省钱不成,反被“绑架”?

CA 不够用了?Azure 推 Karpenter + Spot,让 AKS 便宜 80%!

逐层优化!网安独角兽如何在 AWS 上削减 60% 的 K8s 成本

公司介绍

CloudPilot AI 是一家全球领先的 Karpenter 托管云服务提供商,致力于通过智能化、自动化的云资源调度和编排技术,帮助企业最大化云资源利用率。我们秉持“让客户在云中花费的每一分钱都物超所值”的使命,为客户提升10倍的资源效率,同时将云成本降低50%以上。


目前,开源K8s弹性伸缩器 Karpenter 已为全球超500家知名企业在生产环境中提供服务,包括阿迪达斯、Anthropic、Slack、Figma等。CloudPilot AI 已为数十家全球顶尖科技公司提供服务,累计为客户节省超过30万美金,平均节省67%。 选择CloudPilot AI,让每一笔支出都更智慧。


免费试用,2步5分钟,降低50%云成本:

cloudpilot.ai

【声明】内容源于网络
0
0
云妙算
让您在云中花费的每一分钱都物超所值
内容 104
粉丝 0
云妙算 让您在云中花费的每一分钱都物超所值
总阅读112
粉丝0
内容104