Red Hat 刚刚发布了 Red Hat AI 新更新，作为其产品组合的一部分，旨在加速混合云环境中 AI 解决方案的开发与部署。该平台提供企业级 AI 能力，支持模型训练和推理，为在混合云任意位置部署系统带来更丰富的体验、灵活性及简化的操作流程。
尽管企业希望降低实施大型语言模型（LLMs）的成本，但仍面临将系统与专有数据集成并从数据中心、公共云或边缘环境等多处访问的挑战。
通过整合 Red Hat OpenShift AI 和 Red Hat Enterprise Linux AI (RHEL AI)，Red Hat AI 提供了企业级平台，支持使用业务特定数据微调高效优化模型，并在混合云多种计算架构上灵活部署与训练。
Red Hat AI 业务副总裁兼总经理 Joe Fernandes 表示：“随着企业扩大生成式 AI 生产规模，管理成本成为关键挑战。Red Hat AI 帮助组织构建基于自有数据的高效专用模型，并在本地、云端和边缘实现灵活推理，从而保持准确性与成本效益。”
Red Hat OpenShift AI
Red Hat OpenShift AI 提供完整的 AI 平台，管理混合云中预测性和生成式 AI（gen AI）的全生命周期，涵盖机器学习操作（MLOps）和大型语言模型操作（LLMOps）。平台支持构建预测模型、微调 gen AI 模型，并提供从数据科学管道、模型监控到治理的简化管理工具。
最新版本 Red Hat OpenShift AI 2.18 新增多项功能，以支持将更多优化高效的 AI 模型引入混合云：
● 分布式服务：通过 vLLM 推理服务器，允许 IT 团队将模型服务拆分至多个 GPU。这有助于减轻单服务器负载，加快训练微调速度，提升资源利用率，并实现节点间 AI 模型服务的均衡分配。
● 端到端模型调整体验：结合 InstructLab 与 Red Hat OpenShift AI 数据科学流水线，简化 LLM 微调流程，使其在大型生产环境中更具可扩展性、高效性和可审计性，并通过控制面板提供统一管理。
● AI Guardrails：预览版 AI Guardrails 技术监控并保护用户输入与模型输出，提升 LLM 的准确性、性能、延迟和透明度。该功能可识别并缓解仇恨言论、辱骂性内容、个人身份信息、竞争对手数据等受企业策略限制的内容。
● 模型评估：通过语言模型评估组件（lm-eval），数据科学家可对比 LLM 在逻辑推理、数学运算及对抗性 NLP 等任务中的表现，助力创建更有效、响应更快且定制化的 AI 模型。
RHEL AI
作为 Red Hat AI 产品组合的一部分，RHEL AI 是用于一致开发、测试和运行 LLM 的基础模型平台，旨在推动企业应用发展。它提供 Granite LLM 模型和 InstructLab 对齐工具，打包于 Red Hat Enterprise Linux 可引导镜像中，支持混合云部署。
2025 年 2 月发布的 RHEL AI 1.4 带来以下改进：
● 支持 Granite 3.1 8B 模型：作为开源 Granite 系列最新成员，新增分类法/知识推理及自定义多语言支持（开发者预览版），配备 128k 上下文窗口，提升摘要及检索增强生成（RAG）任务效果。
● 全新图形用户界面：以开发者预览版提供，简化数据消费与碎片化处理，允许用户向 AI 模型添加自有技能和贡献。
● Document Knowledge-bench (DK-bench)：便于比较经私有数据微调后的 AI 模型与未微调基础模型的性能差异。
Red Hat AI InstructLab on IBM Cloud
为满足企业对数据准确性、安全性及低成本的需求，Red Hat AI InstructLab 即将作为 IBM Cloud 服务推出。该服务简化了 InstructLab 模型微调流程，帮助组织构建高效平台以满足独特需求，同时确保敏感信息可控。
免费 AI 基础知识培训
为支持企业在动态环境中发展，Red Hat 提供免费 AI 基础知识在线培训。课程面向资深领导者及初学者，颁发两种 AI 学习证书，帮助用户理解 AI 如何转变业务运营、简化决策并推动创新。
可用性
Red Hat OpenShift AI 2.18 和 Red Hat Enterprise Linux AI 1.4 现已可用。有关功能详情、错误修复及升级指南，请参阅官方文档；RHEL AI 最新版本亦可同步获取。
Red Hat AI InstructLab on IBM Cloud 即将上线，AI 基础知识培训目前已对客户开放。