Red Hat 对其 AI 产品组合进行全面更新,旨在加速企业生成式 AI(Gen AI)在混合云环境中的落地。通过发布 Red Hat AI Inference Server、引入经第三方验证的模型,以及集成 Llama Stack 和 Model Context Protocol (MCP) API,Red Hat 正重塑其在多模态 AI 市场的地位。
Forrester 指出,开源软件将成为加速企业 AI 发展的引擎。面对日益复杂的 AI 格局,Red Hat AI Inference Server 提供高效推理能力,并包含一套针对平台性能优化的 AI 模型集合。同时,Llama Stack 和 MCP 等新 API 的集成简化了部署复杂性,赋能 IT 负责人、数据科学家及开发人员更高效地推进 AI 计划。
在混合云中进行高效推理:Red Hat AI Inference Server
Red Hat AI Inference Server 作为新增核心组件,能够在混合云环境中提供更快、更一致且具成本效益的规模化推理。该功能已集成至最新版本的 Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI 中,亦可作为独立解决方案使用,助力组织高效、灵活地部署高性能智能应用。
模型经过 Red Hat AI 测试优化并由第三方验证
Red Hat AI 提供经第三方验证的模型集合及部署指南(可在 Hugging Face 获取),增强客户对模型性能及结果可重复性的信心。所选模型均经过 Red Hat 优化,采用压缩技术减小体积并提升推理速度,从而降低资源消耗与运营成本。持续的模型验证流程确保客户始终处于生成式 AI 创新前沿。
使用 Llama Stack 和 MCP 标准化应用程序与 AI 代理开发
Red Hat AI 整合了 Meta 开发的 Llama Stack 与 Anthropic 的 MCP,为构建和部署 AI 应用及代理提供标准 API(目前以开发者预览版形式提供)。Llama Stack 提供统一 API,支持通过 vLLM 进行推理、检索增强生成 (RAG)、模型评估、安全护栏及代理操作;MCP 则提供标准化接口连接外部工具、插件和数据源,实现代理工作流的高效协作。
最新版 Red Hat OpenShift AI (v2.20) 进一步优化了大规模构建、训练、部署及监控生成式和预测性 AI 模型的能力,主要亮点包括:
- 优化的模型目录(技术预览):轻松访问经 Red Hat 及第三方验证的模型,支持通过 Web 控制台部署,并利用集成的 OpenShift 注册表实现全生命周期管理。
- 使用 KubeFlow Training Operator 进行分布式训练:支持在多个节点和 Red Hat OpenShift GPU 上执行 InstructLab 微调及分布式 PyTorch 工作负载,采用分布式 RDMA 网络加速并提高 GPU 利用率,有效降低成本。
- 特征存储(技术预览):基于上游 Kubeflow Feast 项目,提供集中式仓库管理和提供训练推理数据,优化数据流并提升模型准确性与可重用性。
Red Hat Enterprise Linux AI 1.5 更新了专注于大语言模型 (LLMs) 开发、测试和执行的基础模型平台,主要功能包括:
- 登陆 Google Cloud Marketplace:扩展了在公共云运行 RHEL AI 的选择范围,简化了在 Google Cloud 上部署和管理 AI 工作负载的流程。
- 多语言能力增强:通过 InstructLab 支持西班牙语、德语、法语和意大利语,允许使用原生脚本自定义模型。用户可使用自有“教师”和“学生”模型控制定制测试过程,未来还将支持日语、印地语和韩语。
Red Hat AI InstructLab on IBM Cloud 现已全面可用。该云服务进一步简化了模型定制流程,提升了可扩展性与用户体验,使企业能更高效、可控地使用自有数据。
AI 的未来应由无限机会定义,而非受限于基础设施孤岛。Red Hat 展望组织能在任意加速器、任意云上部署任意模型,以合理成本提供卓越且一致的用户体验。释放生成式 AI 投资潜力,需要通用的推理平台及持续高性能创新的行业标准。
参加 Red Hat Summit 主题演讲,聆听最新动态:
- 与企业 AI 对齐的现代基础设施:5月20日,8:00 - 10:00 EDT(YouTube)
- 混合云演进以推动业务创新:5月21日,8:00 - 9:30 EDT(YouTube)

