HiddenLayer获5000万美元融资，专注AI安全防御
专注于保护人工智能系统免受对抗性攻击的安全初创公司HiddenLayer今日宣布完成5000万美元融资。本轮由M12和Moore Strategic Ventures联合领投，Booz Allen Hamilton、IBM、Capital One及TenEleven参与投资。
联合创始人兼CEO Chris Sestito表示，此次融资使公司累计融资金额达5600万美元。新资金将用于市场推广、研发投入，并计划年底将员工规模从50人扩充至90人，以满足全球各行业对机器学习安全平台日益增长的需求。
核心技术：守护AI模型完整性
HiddenLayer成立于2019年，创始人团队拥有深厚的威胁研究背景。其平台旨在检测并响应针对AI的对抗性攻击、漏洞利用及恶意代码注入，通过监控AI系统的输入输出并在部署前测试模型完整性来保障安全。
针对企业使用预训练开源模型可能面临的迁移学习攻击风险，HiddenLayer采用独特技术路径：仅观察模型的输入向量（数学表示）及其输出，自主学习正常行为模式，无需访问客户专有模型本身，从而在提供防护的同时消除数据隐私顾虑。
此外，HiddenLayer积极回馈社区，贡献于MITRE ATLAS知识库。据称，该平台可防御ATLAS列出的全部64种攻击类型，涵盖知识产权盗窃、模型提取、推理攻击、模型规避及数据投毒等。
行业趋势：AI安全威胁与监管双重驱动
尽管针对AI的大规模攻击公开案例较少，但学术界关于AI安全的研究呈爆发式增长。与此同时，监管机构正高度警惕潜在风险：
- 英国国家网络安全中心警告，威胁者可能操纵大语言模型以窃取机密或生成有害内容；
- 美国《AI权利法案》建议AI系统在部署前需进行测试、风险识别与持续监控。
企业端的安全焦虑同样显著。Forrester研究显示，86%的受访组织对ML模型安全表示担忧，且多数仍依赖手动流程应对威胁；Gartner报告指出，五分之一的组织在过去一年内发生过AI隐私泄露或安全事件。
市场布局与客户认可
Sestito强调，随着AI应用加速普及，相关风险将持续扩大。相较于Robust Intelligence、CalypsoAI等竞品，HiddenLayer凭借其基于AI的检测与响应方法建立了差异化优势。
目前，该平台已与Databricks、Intel建立合作伙伴关系，并服务于金融、政府、国防（含美国空军和太空军）及网络安全领域的多家财富100强企业，显示出强劲的市场拓展能力。