事实证明，当两位曾在Meta从事负责任AI研究的人工智能专家联手时，奇迹就会发生。Patronus AI的创始人于去年三月齐聚一堂，旨在构建一种解决方案，以评估和测试大型语言模型，特别关注对错误零容忍的受监管行业。
该公司首席技术官Rebecca Qian曾在Meta AI负责领导自然语言处理（NLP）研究，而联合创始人兼首席执行官Anand Kannappan则在Meta Reality Labs协助开发了可解释的机器学习框架。如今，这家初创公司正式从隐身状态亮相，产品全面开放使用，并宣布完成300万美元种子轮融资。
Patronus AI正处于正确的地点和时机，通过托管服务形式构建安全与分析框架，用于测试大型语言模型以识别潜在问题领域，尤其是“幻觉”风险，即模型因缺乏正确回答所需数据而编造答案的情况。
Qian表示：“在我们的产品中，我们致力于自动化和规模化整个流程及模型评估，以便在识别出问题时代用户发出警报。”
她指出该流程涉及三个步骤：
- 评分：帮助用户在实际场景中为模型打分，例如在金融领域重点关注幻觉等关键标准；
- 压力测试：自动生成对抗性测试套件，并用这些测试用例对模型进行压力测试；
- 基准测试：根据不同需求使用各种标准对模型进行基准测试，比较不同模型的失败率和幻觉现象，帮助用户找到最适合特定任务的最佳模型。
该公司专注于高度监管的行业，因为在这些行业中，错误的答案可能会带来严重后果。“我们帮助公司确保他们使用的大语言模型是安全的，检测其模型产生商业敏感信息和不适当输出的情况，”Kannappan解释道。
他表示，这家初创公司的目标是成为模型评估中值得信赖的第三方。“很容易有人说自己的LLM是最好的，但需要有一个公正、独立的视角。这就是我们的作用，Patronus就是那个可信度的认证标志。”
目前该公司有六名全职员工，鉴于该领域发展迅速，计划在未来几个月内招聘更多人员。Qian强调，多样性是公司的核心支柱之一。“这是我们非常关心的事情，这种重视始于Patronus的领导层。随着公司发展，我们将继续推行各项计划和举措，以确保创建并维护一个包容性的工作环境。”
本轮300万美元种子轮融资由Lightspeed Venture Partners领投，Factorial Capital及其他行业天使投资人参与。