作为人工智能开放转型的重要参与者,Red Hat与Google Cloud宣布延长合作,共同推动AI发展。双方将结合开源技术与Google专业基础设施及Gemma模型系列,重点扩展AI商业应用场景。
企业将通过以下方式共同推进AI扩展用例:
- 启动开源llm-d项目,Google作为创始合作方参与;
- 在Google Cloud TPU和GPU驱动虚拟机(VM)上支持vLLM,增强AI推理能力;
- 为Gemma 3模型提供vLLM零日支持;
- Red Hat AI Inference Server上线Google Cloud;
- 开发AI智能体,Red Hat作为Google Agent2Agent (A2A)协议合作方参与。
通过vLLM强化AI推理
Red Hat已成为Google开放模型系列Gemma的首批测试者之一,从Gemma 3起立即支持vLLM。vLLM作为开源推理服务器,可加速生成式AI应用执行。作为主要商业贡献者,Red Hat正致力于提升该平台在生成式AI应用中的效率与响应速度。
此外,Google Cloud TPUs现已完全兼容vLLM。该集成使开发人员能在保障快速准确推理性能的同时,最大化资源利用率。
针对从AI研究向现实部署转变过程中面临的生态复杂性及分布式计算需求,Google作为创始贡献者参与了开源项目llm-d。该项目基于vLLM社区势头,旨在开启生成式AI推理新时代,实现跨异构资源的可扩展性,优化成本并提升工作负载效率。
以社区创新推动企业级AI发展
为将开源进展引入企业环境,Red Hat AI推理服务器现已在Google Cloud可用。类似Red Hat企业版vLLM,该服务器帮助企业优化混合云环境中的模型推理。依托Google Cloud可信基础设施,组织可部署生产就绪、高响应且具备规模经济效益的生成式AI模型。
秉持对开放AI的共同承诺,Red Hat持续参与Google Agent2Agent (A2A)协议。作为一种促进代理与用户跨平台通信的应用层协议,Red Hat通过积极参与A2A生态系统,加速创新并确保AI工作流程在智能体驱动下保持动态高效。
Red Hat Summit
观看Red Hat Summit主题演讲,了解来自高管、客户和合作伙伴的最新动态:
- 与企业AI对齐的现代基础设施:5月20日,8:00-10:00 EDT
- 混合云演进以驱动业务创新:5月21日,8:00-9:30 EDT

