AI 智能体正从“问答”迈向“自主执行复杂任务”
AI 智能体正变得越来越复杂，逐渐从单纯回答问题演变为自主执行多步骤的复杂任务。然而，在获得用户信任以处理预订行程或财务分析等敏感工作之前，模型提供商及初创公司亟需确保其在各类场景下的可靠性。
尽管 AI 实验室常通过基准测试展示模型实力，但即便在面向智能体的测试中得分较高，也无法完全证明其能正确应对复杂的现实世界任务。
Patronus AI：构建模拟环境评估智能体表现
由前 Meta AI 研究员 Anand Kannappan 和 Rebecca Qian 于 2023 年创立的 Patronus AI，通过构建模拟数字环境来评估智能体表现，协助开发者对模型进行微调。
这家旧金山初创公司精准解决了行业痛点。Notable Capital 管理合伙人 Glenn Solomon 指出，几乎所有前沿 AI 实验室及新兴初创公司都已成为其客户，对该公司模拟环境的需求近乎“无法满足”。
获 5000 万美元 B 轮融资，收入一年增长 15 倍
Past year，Patronus 收入增长了 15 倍，引发投资者浓厚兴趣。周四，公司宣布完成 5000 万美元 B 轮融资，由 Greenfield Partners 领投，Notable Capital、Lightspeed、Datadog 和 Samsung 参投，总融资额达 7000 万美元。
“数字世界模型”：像训练自动驾驶一样训练 AI 智能体
Patronus 利用“数字世界模型”创建网站及内部系统副本。智能体在这些环境中经强化学习训练后接受压力测试，系统会迭代奖励成功行为并惩罚错误。
AI 实验室视此类数字模拟为宝贵资产，因其允许智能体尝试不可预测的场景。该方法与 Waymo 训练自动驾驶汽车逻辑一致：先构建合成世界，测试车辆应对恶劣天气或突发状况等罕见危险的能力。
Solomon 强调：“Patronus 擅长发现智能体‘走捷径’等投机取巧行为，并确保模型问责。”这与传统 AI 智能体往往无法正确完成任务形成鲜明对比。
未来展望：挑战不可验证领域与长周期任务
Kannappan 表示，目前软件工程和金融领域的模拟仅是开始。“我们专注于可立即检查验证的问题，但大量领域仍难以验证。”
他指出，可验证不代表简单，“我们希望创建能让智能体连续运行 10 小时、10 天甚至 10 周的环境。”
在竞争格局上，Patronus 主要对标 AI 实验室内部的评估团队。不同于 Mercor、Surge 等依赖人工数据的强化学习服务商，Patronus 的核心优势在于无需人工参与即可全自动评估智能体行为。