在周四的开发者大会上，Box展示了一项新功能，将Nvidia Nemotron嵌入系统整合至产品核心。
功能亮点与性能提升
该功能名为Box Content Retrieval，允许智能体依托Nemotron创建的嵌入元数据更高效地响应查询。Box表示，此举将带来更快的查询速度、更高的准确性及更低的成本。Nvidia生成式AI软件副总裁Kari Briski预计，查询响应速度将提升4倍，错误率降低20%，Token消耗减少90%。
该系统面向所有Box Enterprise Advance客户开放，计划于明年年初推出。
技术原理与应用场景
Box CEO Aaron Levie指出，这极大提升了搜索技术对智能体的相关性。相比以往智能体需逐份阅读文档，新系统可直接返回与用户查询或任务最相关的文档片段。
作为Nvidia Nemotron Embed项目的落地应用，该技术通过开源权重嵌入模型优化自动检索系统。利用LLM对数据进行预处理，使智能体能更好利用数据。7月发布的最新版Nemotron在衡量检索质量的RTEB基准测试中名列前茅。
在实际应用中，该系统与活跃智能体配合效果最佳。以律师为例，即便使用不同措辞或语言，基于底层概念映射的Nemotron嵌入也能精准呈现相关法律条款和先例。
集成优势与挑战
尽管Nemotron模型免费，但该系统深度依赖Box现有的元数据和权限控制，从头重建极具挑战性。Levie透露：“我们可能在一个简单的API中集成了五种不同的技术。”