周三（13日），红帽完成对美国生成式人工智能（GenAI）软件与算法先驱Neural Magic的收购。此次收购将Neural Magic在性能工程及开源领域的专长，与红帽致力于提供跨场景、高性能AI并部署于混合云任意位置的愿景深度融合。
尽管GenAI主导了当前技术格局，但支撑其运行的大型语言模型（LLM）日益庞大，构建可靠且具成本效益的LLM服务需消耗大量算力、能源及专业运营技能。这些障碍限制了多数组织获取定制化、可部署且更安全的AI收益。
通过收购Neural Magic，红帽旨在联合vLLM开展开放创新，降低GenAI使用门槛。vLLM是由加州大学伯克利分校开发、社区维护的开源项目，支持所有主流模型家族、先进推理加速研究及AMD GPU、AWS Neuron、Google TPU、Intel Gaudi、NVIDIA GPU和x86 CPU等多种硬件后端。结合Neural Magic在vLLM中的领导地位与红帽强大的混合云AI技术组合，企业将获得一条开放路径，无论数据位于何处，均可构建满足独特需求的AI战略。
红帽总裁兼首席执行官Matt Hicks表示，收购Neural Magic及推进vLLM倡议是确立公司AI领域标杆地位的第一步：“我们很高兴将Neural Magic开创性的AI创新融入专注于混合云的AI产品组合中，这不仅强化了成为‘开源领域Red Hat’的愿望，更迈向成为‘AI领域Red Hat’的目标。”
Red Hat + Neural Magic：赋能面向混合云就绪的GenAI未来
Neural Magic于2018年从麻省理工学院（MIT）分拆成立，专注构建深度学习高性能推理软件。借助其技术与性能工程专业知识，红帽致力于加速AI愿景落地，通过以下方式进一步普及AI变革性力量：
- 采用开源许可的模型（参数量10亿至4050亿不等），可在企业内部数据中心、多云环境及边缘节点等混合云任意位置运行；
- 具备微调能力，使组织能利用私有数据和用例定制LLM，并拥有更健全的安全框架；
- 凭借推理性能工程经验，提升运营与基础设施效率；
- 构建由合作伙伴和支持框架组成的开源生态系统，为客户提供从LLM、工具到认证服务器硬件和芯片架构的更多选择。
vLLM领导力助力增强Red Hat AI
Neural Magic将利用其在vLLM方面的专业知识，构建企业级技术基础，帮助客户在混合云环境中优化、部署和扩展LLM工作负载，同时完全掌控基础设施选择、安全策略和模型生命周期。此外，Neural Magic还开展模型优化研究，构建用于稀疏化和量化优化的统一库LLM Compressor，并维护预优化模型存储库，确保模型可与vLLM协同部署。
Red Hat AI旨在通过以下核心技术帮助客户降低AI成本和技能门槛：
- Red Hat Enterprise Linux AI（RHEL AI）：基础模型平台，无缝开发、测试和运行IBM Granite系列开源LLM，支持Linux服务器部署中的企业级应用；
- Red Hat OpenShift AI：AI平台，提供工具以便在本地数据中心、公有云或边缘环境的分布式Kubernetes环境中快速开发、训练、部署和监控机器学习模型；
- InstructLab：由Red Hat和IBM共同创建的社区驱动型开源项目，采用InstructLab微调技术并以开源许可证发布，允许任何人通过协作增强Granite LLM来塑造GenAI未来。
Neural Magic在vLLM方面的技术领导力将提升Red Hat AI在任何环境和混合云任意位置支持LLM部署的能力，提供现成、高度优化且开放的推理堆栈。
该交易仍需获得美国监管机构批准及其他惯例合同交割条件。