周四，Box通过推出一系列新的AI功能并构建代理式AI模型作为其产品核心，正式推出了其开发者大会BoxWorks。
此次会议的产品发布数量多于往常，反映出该公司人工智能开发节奏日益加快：Box 去年推出了其 AI 工作室，随后在2月推出了一套新的数据提取代理，以及在5月推出的其他用于搜索和深度研究的代理。
如今，该公司正在推出一款名为Box Automate的新系统，该系统作为 AI 代理的一种操作系统，将工作流程划分为不同部分，以便在必要时用 AI 进行增强。
我与首席执行官Aaron Levie探讨了该公司对AI的方法，以及在基础模型公司竞争中面临的严峻挑战。毫不意外的是，他对现代工作场所中AI代理的可能性持非常乐观的态度，但他也清醒地认识到当前模型的局限性，以及如何利用现有技术来管理这些局限。
本次采访已进行删减和润色，以精简篇幅并提高清晰度。
你今天发布了一系列AI产品，因此我想先从宏观愿景谈起。为什么要在云内容管理服务中构建AI代理？
我们整天都在思考的问题——也是Box的焦点所在——是AI正在改变多少工作。目前，绝大多数影响都集中在涉及非结构化数据的工作流程上。我们已经能够自动化处理任何进入数据库的结构化数据。如果你想想CRM系统、ERP系统和HR系统，我们在该领域已经实现了多年的自动化。但在涉及非结构化数据的任何方面，我们从未实现过自动化。
想想任何类型的法律审查流程、任何类型的营销资产管理流程、任何类型的并购交易审查——所有这些工作流程都涉及大量非结构化数据。人们必须审查这些数据，对其进行更新，做出决策等等。我们一直无法为这些工作流程带来太多自动化。我们只能在软件中描述它们，但计算机在读取文档或查看营销素材方面还不够好。
因此，对我们来说，AI代理意味着我们终于能够首次真正利用所有这些非结构化数据。
在商业环境中部署代理有什么风险吗？你们的一些客户可能对在敏感数据上部署此类东西感到紧张。
我们从客户那里看到的情况是，他们希望知道每次运行该工作流程时，代理都会以大致相同的方式执行，在工作流程的同一阶段进行操作，而不会失控。你不想让代理犯下累积性错误，即在完成前几百次提交后开始胡乱操作。
拥有正确的分界点变得非常重要，即代理从哪里开始，系统的其他部分在哪里结束。对于每个工作流程，都存在这样一个问题：哪些部分需要确定性的护栏，哪些部分可以完全由代理驱动且是非确定性的。
使用 Box Automate，你可以决定每个独立智能体在移交任务给其他智能体之前需要完成多少工作。例如，你可以设置一个独立的提交智能体和一个审查智能体，依此类推。这基本上允许你在组织内的任何工作流程或业务流程中以规模化方式部署 AI 智能体。
通过拆分工作流程，你能防范哪些问题？
我们已经在像 Claude Code 这样最先进的完全自主式系统中看到了一些局限性。在任务的某个阶段，模型会因上下文窗口空间不足而无法继续做出良好决策。目前 AI 领域没有免费的午餐。你不能仅仅依靠一个拥有无限上下文窗口的长期运行智能体来处理你业务中的任何任务。因此，你必须拆分工作流程并使用子智能体。
我认为我们正处于 AI 的“上下文”时代。AI 模型和智能体需要的是上下文，而它们赖以工作的上下文就存储在你的非结构化数据中。因此，我们的整个系统旨在确定可以赋予 AI 智能体的上下文，以确保它们尽可能高效地执行任务。
业界对于大型强大前沿模型与更小、更可靠的模型之间的优势存在更大争议。这是否让你站在较小模型的一方？
我可能需要澄清一点：我们的系统没有任何内容限制任务变得任意长或复杂。我们要做的是建立适当的护栏，让你能够决定任务的自主程度。
我们对人们在该连续谱系上应处于何种位置并没有特定的哲学观点。我们只是在设计一种面向未来的架构。我们以这种方式进行设计：随着模型的改进以及自主能力的提升，你将直接在平台上获得所有这些好处。
另一个担忧是数据控制。由于模型是在海量数据上训练的，人们非常担心敏感数据会被重新输出或被滥用。这一点如何考量？
许多 AI 部署正是在这里出错。人们认为：“嘿，这很简单。我给 AI 模型访问我所有非结构化数据的权限，它就能为人们回答问题。”然后它开始提供你无权访问或不应该访问的数据的答案。你需要一个强大的层来处理访问控制、数据安全、权限、数据治理、合规性等一切事宜。
因此，我们从过去几十年构建的系统（该系统本质上解决了这个问题：如何确保企业中只有正确的人才能访问每份数据）中受益。当智能体回答问题时，你可以确定它绝不会引用该人无权访问的任何数据。这根本性地内置于我们的系统中。
本周早些时候，Anthropic 发布了一项新功能，允许用户直接向 Claude.ai 上传文件。这与 Box 所提供的文件管理功能相比还有很大差距，但你一定在思考来自基础模型公司的潜在竞争。你们是如何从战略层面应对这一挑战的？
因此，如果你考虑企业在大规模部署 AI 时所需的关键要素，他们需要安全性、权限管理和控制能力。他们还需要用户界面、强大的 API，以及自由选择 AI 模型的权利，因为今天某个 AI 模型可能在某些应用场景中表现更优，但明天情况可能会发生变化，而他们不希望被锁定在单一平台上。
因此，我们构建了一个系统，让用户能够几乎拥有所有这些能力。我们负责存储、安全、权限管理、向量嵌入，并连接市面上所有领先的人工智能模型。