大数跨境

英特尔及其他企业承诺构建面向企业的开源生成式AI工具

英特尔及其他企业承诺构建面向企业的开源生成式AI工具 海外洞察
2024-04-16
0
导读:英特尔和其他科技巨头表示,他们将携手为构建面向企业的开放生成式AI工具而努力,这是作为新成立的Linux基金会组织的一部分。

专为企业设计的生成式AI(如自动补全报告、电子表格公式等)能否实现互操作性?Linux基金会联合Cloudera、Intel等机构,正致力于探索这一关键问题。

OPEA:推动企业级生成式AI开放与模块化

Linux基金会周二宣布推出企业AI开放平台(OPEA)。该项目旨在促进开放、多供应商及可组合(模块化)的生成式AI系统开发,由LF AI and Data组织负责监督。

该组织执行主任Ibrahim Haddad表示,OPEA的目标是为发布“加固”且“可扩展”的生成式AI系统铺平道路,充分利用生态系统中最佳的开源创新成果。

Haddad指出:“OPEA将通过创建处于技术栈前沿的详细、可组合框架,释放AI新可能性。此举证明了我们致力于在中立、开放的治理模式下,推动AI和数据社区的开源创新与合作。”

作为Linux基金会的Sandbox孵化项目之一,OPEA成员除Cloudera和Intel外,还包括IBM旗下的Red Hat、Hugging Face、Domino Data Lab、MariaDB及VMware等行业巨头。

聚焦RAG优化与标准化组件

OPEA将共同构建什么?Haddad暗示了多种方向,包括对AI工具链和编译器的“优化”支持,使工作负载适配不同硬件;以及用于检索增强生成(RAG)的“异构”流水线。

RAG在企业级生成式AI应用中日益普及。传统模型受限于训练数据,而RAG允许模型在生成响应前引用外部信息(如专有公司数据或公共数据库),从而扩展知识库。

解释RAG模型的示意图。图片来源:英特尔

英特尔在新闻稿中进一步阐明:

由于缺乏跨组件事实标准,企业难以选择并部署开放、互操作的RAG解决方案,导致自行搭建困难重重。OPEA计划通过与行业合作,标准化框架、架构蓝图及参考解决方案,以解决上述痛点。

四维评估体系与企业就绪度

评估是OPEA的核心工作之一。GitHub代码库提出了从四个维度对生成式AI系统进行评分的标准:

  • 性能:基于实际用例的“黑盒”基准测试。
  • 功能:评估系统互操作性、部署选择和易用性。
  • 可信度:考察AI模型保证稳健性和质量的能力。
  • 企业就绪:关注系统平稳运行且无重大问题的要求。

英特尔开源战略总监Rachel Roumeliotis表示,OPEA将与社区合作提供基于该标准的测试,并根据需求对生成式AI部署进行评估和评级。

开源潜力与行业合作展望

Haddad提到了沿袭Meta Llama系列和Databricks DBRX进行开源模型开发的潜力。目前,英特尔已在OPEA代码库中贡献了针对Xeon 6和Gaudi 2硬件优化的聊天机器人、文档摘要器和代码生成器参考实现。

OPEA成员显然致力于为企业生成式AI构建工具:Cloudera正打造云“AI生态系统”,Domino提供面向业务的AI构建与审计应用,VMware则推出了“私有AI”计算产品。

关键在于,这些供应商是否会真正在OPEA框架下构建跨兼容的AI工具。虽然客户乐于根据需求灵活选择服务,但历史经验表明需警惕供应商锁定风险。业界期待OPEA能带来真正的开放与互操作。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k