大数跨境

Pinecone 将其无服务器向量数据库正式推出预览阶段

Pinecone 将其无服务器向量数据库正式推出预览阶段 海外洞察
2024-05-21
0
导读:由前亚马逊AI实验室负责人埃多·利伯蒂(Edo Liberty)创立的向量数据库初创公司Pinecone,长期以来一直走在帮助企业的前沿

Pinecone这家由前亚马逊 AI Labs 负责人 Edo Liberty 创立的向量数据库初创公司,长期以来一直走在帮助企业利用自有数据增强大型语言模型(LLM)的前沿。不过最近,该公司对其产品进行了彻底的重构,推出了 Pinecone Serverless,使客户无需再操心部署管理和扩展问题。如今,Pinecone Serverless 已结束测试阶段,正式全面可用。

Liberty 指出,该公司的早期客户现在正从生成式 AI 的实验阶段转向希望推出自己的 AI 产品。该公司观察到,企业在构建新应用的同时,也在努力探索如何将这些应用最佳地投入生产环境。

"第一批类似生产级应用正在进入市场,未来六到九个月内还将有更多应用涌现。我们超过 5,000 名客户明确告诉我们,他们需要一个专用、优化且高度专业化的工具,能够极其出色地完成向量搜索、RAG(检索增强生成)、知识提取以及为这些语言模型生成上下文。他们真正想表达的是:我需要规模、需要性能,并且成本要合理,以便我能对正在构建的产品进行合理的成本效益分析。"

图片来源:Pinecone

Liberty 强调,Pinecone 花费了大量时间确保该产品准备好用于生产部署——同时大幅降低了成本。该公司认为,使用 Pinecone Serverless 的客户可以将成本降低多达 50 倍,部分原因在于团队将系统重构为多租户服务,实现了存储与计算的解耦。通过这种方式,Pinecone 的客户仅在实际消耗 CPU 时间时付费,而容量则由公司在后端进行编排管理。

"因为我们将所有内容作为服务运行,我们对这一切的编排能力使我们能够按用户实际使用的量收费——不多收一分钱。这非常罕见,也极其难以实现," Liberty 说。

Pinecone创始人Edo Liberty。图片来源:Pinecone

在公开预览期间,Pinecone 的客户还提出了一些额外功能的需求。其中之一是 Private Endpoints(私有端点),今天开始进入公开预览阶段。这允许企业通过 AWS PrivateLink 在其 Amazon 虚拟私有云之间建立直接连接,从而不将数据暴露给公共互联网,确保数据始终符合公司可能需要遵守的各种治理和合规要求。

一些已经在使用 Pinecone Serverless 的公司包括 Gong、Help Scout、New Relic、Notion、TaskUS 和 You.com。

“Notion正引领AI生产力革命,”Notion联合创始人兼COO Akshay Kothari表示。“我们率先推出市场AI功能,得益于Pinecone无服务器架构的支持。他们的技术使我们的问答AI能够从数十亿份文档中获取信息,为数百万用户提供即时答案。更令人欣喜的是,迁移至其最新架构后,我们的成本降低了60%,这进一步推动了我们将软件工具制作普及化的使命。”

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k