过去几年的生成式AI热潮催生了一批初创公司,它们承诺支持提示词工程(prompt engineering)流程——即设计指令,以精确引导AI聊天机器人产生有用的输出。想想OpenAI的ChatGPT和Google的Gemini这类工具,它们向用户提供一个空白输入框用于查询——你问什么以及怎么问,会导致截然不同的结果。
总部位于纽约的PromptLayer较早进入这一领域,大约在两年前推出了一款帮助应用开发者管理提示词流程的工具。联合创始人Jared Zoneraich回忆说,该公司的创始人们自己也曾尝试使用AI聊天机器人,并希望有一种工具来跟踪他们自己的提示词操作。TechCrunch Disrupt黑客马拉松校友,上图左一与联合创始人Jonathan Pedoeem合影。
出于一时兴起,他们将最小可行产品(MVP)发布到了X平台(原Twitter),而他们为自己构建的工具引起了轰动,于是他们继续完善开发。该产品随后演变为一个提示词管理产品,面向第三方企业销售,以支持其开发AI应用。这表明创始人们抓住了正确的时机,迎合了企业界对大型语言模型(LLMs)如何提升生产力日益增长的兴趣。
自PromptLayer发布MVP以来,提示词支持领域的竞争已大幅升温。此后,他们打造了一个功能齐全的平台——提供可视化界面,内置多种工具,用于管理和监控从大型语言模型中提取最大价值的过程。
如今,他们完成了480万美元的种子轮融资,以继续推动其方法的发展。该轮由Ivan Bercovich(ScOp Venture Capital)领投,Peter Boyce II(Stellation Capital)再次参与(他也资助了他们的种子前轮),此外还有多位天使投资人、AI创始人和运营商参与,包括Michael Akilian、Joshua Browder、Byrne Hobart、Romain Huet、Josh Kamdjou、Logan Kilpatrick、Ben Lang、Alex Oppenheimer、Gokul Rajaram、Gabriel Stengel和Luis Voloch。
跟踪提示词
Zoneraich表示,PromptLayer产品的核心是一个“提示词注册表”。“它是内容管理系统(CMS),也是提示词的版本控制系统,”他解释道,“你有一个提示词,创建新版本,你可以看到不同版本之间的差异,然后选择哪个版本作为生产版本……这就是我们产品的中心——所有其他功能都由此扩展,旨在使其更加有用。”
“例如,基于此的测试,或者记录你何时使用了哪个提示词的日志,或者是提示词之间的A/B测试,以及对哪个版本效果最好的更深入洞察。”
该平台旨在支持客户为其特定的应用程序用例测试和评估不同的提示词——例如AI教练应用或用于客户支持的聊天机器人——让他们能够测试不同版本的提示词在一系列大语言模型(LLM)中的表现;更广泛地说,帮助他们更好地把握这个充满机遇的新应用开发世界,在这个世界中,驾驭尖端技术所需的语言主要是自然语言(而非代码)。
与大多数开发者工具制造商不同,PromptLayer刻意专注于非技术用户。
Zoneraich表示,他们有意选择构建一个面向他所称的“领域专家”的提示词管理业务——即在其领域(如教育、法律、医疗等)拥有关键专业知识的专业人士——因为他们发现早期用户会将非编程人员带入应用开发的行列。
这家初创公司在使命声明中写道:“我们认为,没有医生就无法构建医疗AI,没有律师就无法构建法律AI,没有治疗师就无法构建心理治疗AI。”该声明指出,其软件工具“允许领域专家和工程师使用我们的可视化提示词CMS进行协作。”
Zoneraich进一步表示,该平台让领域专家处于应用开发的“主导地位”。
“这需要人们接受某种形式的培训——但这并不难,”他建议道,“他们不需要学习编程。所以这是普通人可以上手的东西。”
采取不同的策略
鉴于生成式AI已经打开了AI工具箱——很大程度上归功于OpenAI决定将生成式AI嵌入到易于访问的自然语言界面中——专注于非技术用户工具的选择合乎逻辑。然而,Zoneraich认为这使他们与该领域的多数参与者区分开来。
他在与TechCrunch的电话采访中建议:“我们采取了与其他人非常不同的方法。‘领域专家引领潮流’这一概念——基本上没有人这样做。我认为我们从客户那里学到了这一点。但在硅谷,为非技术用户而非技术用户构建产品似乎没那么‘性感’。”
“我认为我们不需要说服任何人这是正确的做法。市场会替我们说话,”他继续说道,并辩称,“我认为在许多这些领域中,如果不聘请领域专家[来进行提示词工程],你就无法获胜。”
“即使我们想全部用工程师来配置团队,工程师的数量也不够。”
在讨论竞争格局时,Zoneraich提到了像Zapier这样专注于技术的AI工具,以及他所谓的“LLM ops”公司Braintrust和LangChain。“但我认为大家都在过度聚焦于[针对技术用户的工具],”他坚持认为,他的信念是,对于大多数希望利用LLM力量的公司来说,他们想要构建的应用的相关领域专家并非技术人员。
他还认为,成为一名优秀的提示工程师所需的技能与成为一名优秀程序员所需的技能并不一定相同。
“提示工程的技能与工程师之间并非完全相关。虽然有一部分重叠,但这真的更像是一种tinkering(摆弄/调试)类型的技能……‘我就随便试试这个随机操作,然后看看输出结果是什么’,”他告诉我们,“有些人试图认真规划并研究提示应该是什么样的。但在我看来,这些人并不擅长[提示工程],因为这并没有真正的科学依据。”
“我认为你越不去试图理解LLM,你就做得越好,”他补充道。
建立需求
Zoneraich对从LLM中获取最佳效果的工具的市场需求规模持乐观态度。他也不担心这种新出现的提示工程领域最终只会成为工作历史中的一个短暂插曲,被快节奏的生成式AI市场中的新发展迅速碾压。
即使是一个AGI——如果这样一个通用智能AI被创造出来——也需要一些东西来与之协作,他认为,这意味着在可预见的未来,人类仍然需要某种形式的工具/支持来引导机器。
“最难的部分是,我拿它做什么?最难的部分是,我赋予它什么任务来解决?”他说,强调了PromptLayer对其正在为长期建设工具的自信,“最难的部分是定义要做什么。”
“如果你相信这些问题的许多方面没有唯一的完美解决方案,解决它的途径有无限多种,而这就是提示工程师的工作——选择我要解决的到底是什么问题?解决问题的上下文是什么?”他继续说道。
“LLM基本上只是从问题定义到解决方案的工具,但你只是在移动抽象层……我们从机器代码转移到了现代编程语言。然后我们从现代编程语言转移到了提示。也许我们会从原始提示转移到像提示的输入那样,”他说。
“但最终,你仍然需要一些输入。那里存在着不可简化的部分。”
种子轮资金将用于扩大团队(目前八人),重点在于增加内部工程人才,以确保为客户提供的服务质量和可靠性,据Zoneraich所述。他表示,他们还希望扩展平台以服务于更多用例并增长使用量——同时投入精力和能量进行社区建设,以帮助培育这一正在展开的提示工程领域。
关于提示工程师的样子以及什么是提示工程师,目前还没有定论。他认为他们的工作是围绕这一领域构建一个社区——成为提示工程领域的先驱,并向人们展示如何做到这一点。因此,这是一个重点方向。
PromptLayer尚未披露其工具付费客户的数量——但Zoneraich表示,他们已有超过10,000名免费和付费客户通过其网站注册。(ParentLab和OpenAI支持的Speak是他提到的两个付费客户。)
该初创公司今年还实现了13倍的收入增长——并声称这种快速收入增长完全来自口碑传播,“因为团队发现他们需要领域专家,而不仅仅是工程师来构建AI。”
Zoneraich补充道:“解决这些提示问题的方法很简单:你只需修改提示,然后观察结果如何——而我们有很多工具可以帮助你在大规模情况下做到这一点。但核心要点就是:科学方法。”

