周三，AI安全公司Irregular宣布完成由红杉资本（Sequoia Capital）和Redpoint Ventures领投、Wiz首席执行官Assaf Rappaport参投的8000万美元新一轮融资。据接近该交易的消息人士透露，此轮融资使Irregular的估值达到4.5亿美元。
联合创始人Dan Lahav对TechCrunch表示：“我们认为，很快会有大量经济活动源于人与AI的互动以及AI与AI之间的互动，这将导致安全架构在多个环节出现漏洞。”
Irregular前身为Pattern Labs，已是AI评估领域的重要参与者。该公司的研究被引用在针对Claude 3.7 Sonnet的安全评估中，以及OpenAI的o3和o4-mini模型的相关工作中。更广泛地说，该公司用于衡量模型漏洞检测能力的框架（名为SOLVE）在行业内被广泛使用。
尽管Irregular已在现有模型风险方面开展了大量工作，但该公司此次融资着眼于更为宏大的目标：在新兴风险和行为于现实世界中显现之前便加以识别。公司已构建了一套复杂的模拟环境系统，以便在模型发布前对其进行高强度测试。
联合创始人Omer Nevo表示：“我们拥有复杂的网络模拟环境，其中AI既扮演攻击者角色，也扮演防御者角色。因此，当新模型推出时，我们可以观察其防御机制在哪些情况下有效，在哪些情况下失效。”
随着更多风险的出现，安全已成为AI行业高度关注的焦点。OpenAI今年夏天彻底改革了其内部安全措施，旨在防范潜在的商业间谍活动。
与此同时，AI模型越来越擅长发现软件漏洞——这一能力对攻击者和防御者都具有深远影响。
对于Irregular的创始团队而言，这仅仅是大型语言模型能力不断增强所引发的一系列安全难题中的第一个。
Lahav说：“如果前沿实验室的目标是创建越来越复杂且功能强大的模型，那么我们的目标就是确保这些模型的安全。但这始终是一个动态变化的目标，因此未来还有大量工作亟待完成。”