专注于人工智能安全领域的Irregular宣布完成8000万美元融资，本轮由Sequoia Capital和Redpoint Ventures联合领投，Wiz联合创始人Assaf Rappaport参投。成立于2023年的Irregular目前估值已升至4.5亿美元。
据悉，这笔新资金将主要用于测试AI模型安全性及提前识别潜在风险。
核心技术：Solve框架与模拟攻防环境
Irregular主要通过测试大语言模型及AI系统来识别漏洞，并开发了名为“Solve”的框架，用于衡量模型自我发现安全缺陷的能力。此外，公司构建了模拟环境让AI同时扮演攻击者与防御者进行测试，从而在模型发布前暴露防御弱点，预见新型风险。
聚焦边缘AI安全与行业标准
Irregular特别关注边缘AI模型安全，旨在提前识别人机交互及AI间交互可能引发的风险。除执行测试外，公司还致力于通过自研方法和框架，推动建立人工智能行业的安全标准。