大数跨境

提示工程初创公司 Vellum.ai 融资 500 万美元,随着生成式 AI 服务需求的扩大

提示工程初创公司 Vellum.ai 融资 500 万美元,随着生成式 AI 服务需求的扩大 海外洞察
2023-07-11
1
导读:这家初创企业帮助公司优化其生成式 AI 的提示词工程,此次快速融资表明,类似企业仍有广阔的发展空间。

今天早上,Vellum.ai宣布完成500万美元种子轮融资。该公司未披露领投方,仅表示为一家多阶段投资机构,并确认Rebel Fund、Eastlink Capital、Pioneer Fund、Y Combinator及多位天使投资人参与本轮融资。

这家初创公司因在2023年冬季YC演示日上专注于企业生成式AI提示词优化而首次受到TechCrunch关注。鉴于大语言模型(LLM)迭代迅速且商业应用场景广泛,其专注方向备受认可。

Vellum联合创始人兼CEO Akash Sharma透露,目前公司拥有40名付费客户,月收入环比增速达25%至30%。对于今年1月才成立的公司而言,这一增长表现亮眼。

我们最喜欢的 YC 2023 冬季 Demo Day 初创企业——第二部分

通常融资快讯会聚焦产品与增长数据,但考虑到该项目尚处早期,不妨借此深入探讨更广泛的“提示工程”领域。

构建 Vellum

Sharma介绍,他与联合创始人Noa Flaherty、Sidd Seethepalli曾供职于2019年YC校友公司Dover。2020年初GPT-3测试版发布时,团队便已开始合作。

在Dover期间,他们利用生成式AI开发招聘邮件撰写等应用,却发现大量时间耗费在提示词调试上,且缺乏生产环境的版本控制与质量评估手段。为此,团队不得不自行开发微调与语义搜索工具,手工操作负担日益沉重。

这意味着工程资源被内部工具占用,而非用于核心产品开发。基于这段经历及创始团队的MLOps背景,当ChatGPT去年发布时,他们敏锐意识到市场对生成式AI提示优化工具的需求将呈指数级增长,Vellum由此诞生。

Vellum内部的LLM工作流。图片来源:Vellum

市场涌现新机会并不罕见,但现代LLM不仅可能重塑AI市场格局,更将显著扩大其规模。Sharma指出,在此前版本的LLM中,“通过自然语言提示从AI模型获取结果几乎不可能”。而支持自然语言输入的转变“极大拓展了AI市场边界,使产品经理、软件工程师乃至普通用户都能成为提示工程师”。

权限下放意味着工具需求激增。Vellum提供模型输出并排对比功能,支持检索特定企业数据以增强提示上下文,并配备测试与版本控制等工具,帮助企业确保提示词输出准确可靠。

然而,提示LLM究竟有多难?Sharma坦言:“搭建基于LLM的原型并上线很容易,但当企业将其投入生产时,往往会遭遇各种边缘情况,导致异常输出。”简言之,若希望LLM稳定发挥,仅简单封装GPT响应远远不够。

那么,企业在实际应用中如何通过精细化提示工程确保输出经过充分调优?

Sharma以某酒店客服工单系统为例:该公司欲构建类似LLM智能体的系统,处理“能否帮我预订?”类问题。

首先需一段提示词作为升级分类器,判断问题应由人工还是LLM处理。若交由LLM回答,模型必须准确作答,避免幻觉或偏离主题。

因此,多个LLM可串联形成逻辑流。提示工程绝非随意调试模型以产生随机效果,在我们看来,它更接近自然语言编程,需要专属工具框架支撑,正如其他编程范式一样。

市场规模有多大?

TechCrunch+曾分析为何企业普遍预期生成式AI市场规模将大幅增长。众多“矿工”(客户)亟需“镐头和铲子”(提示工程工具)以充分释放生成式AI价值。

Vellum未公开具体定价,但透露月费介于三位数至四位数之间。结合超30家客户基础,作为一家种子期公司,其年化收入已相当可观。需求快速攀升往往映射出广阔的市场空间,足见企业对LLM应用确有强劲需求。

这对所有正在构建、部署或支持LLM的企业而言无疑是利好消息。随着初创企业纷纷入局,行业前景一片光明。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14179
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读975
粉丝0
内容14.2k