Protect AI完成种子轮融资，专注AI系统安全防护
为提升人工智能系统安全性，Protect AI宣布完成由Acrew Capital和Boldstart Ventures联合领投的种子轮融资，Knollwood Capital、Pelion Ventures及Aviso Ventures参与投资。联合创始人兼CEO Ian Swanson表示，资金将用于产品开发与客户拓展，公司正式走出隐身期并公开运营。
Protect AI是少数完全专注于开发工具以保护AI系统和机器学习模型免受攻击的安全公司之一。Swanson解释称，其产品套件旨在帮助开发者在机器学习各阶段识别并修复安全漏洞，包括可能暴露敏感数据的隐患。
Swanson在接受TechCrunch邮件采访时指出：“随着ML模型在生产用例中呈指数级增长，AI构建者亟需增强系统安全性的产品与解决方案，同时应对ML代码的独特需求与威胁。我们研究发现了独特的攻击方式，并提供工具以降低ML流水线中的固有风险。”
创始团队背景深厚
约一年前，Swanson与Daryan Dehghanpisheh、Badar Ahmed共同创立Protect AI。Swanson与Dehghanpisheh曾共事于AWS AI/ML部门，分别担任AI客户解决方案全球负责人及ML解决方案架构师全球负责人。Ahmed此前与Swanson在DataScience.com（2017年被Oracle收购）共事，后两人又在Oracle合作，期间Swanson担任AI/ML副总裁。
首款产品NB Defense：聚焦Jupyter Notebook安全
Protect AI首款产品NB Defense专为AI社区流行的Jupyter Notebook设计。GitHub 2018年分析显示当时超250万个公开Notebook在使用，且数量持续增长。NB Defense扫描AI项目Notebook（含训练、运行及测试所需代码、库和框架），发现安全风险并提供修复建议。
Swanson指出，Notebook中可能包含内部认证令牌等凭据、个人身份信息（如姓名、电话号码），以及禁止商业使用的“非许可”开源代码。尽管多数Notebook作为草稿纸使用且未开放访问（Dark Reading分析显示公共网络中仅不到1%配置为开放），但漏洞并非理论风险。去年12月，Lightspin发现攻击者可跨账户在AWS SageMaker受害者Notebook中执行任意代码。
Aqua Security等机构也发现，未正确保护的Notebook易受Python勒索软件和挖矿攻击。微软2020年调查显示，大多数使用AI的企业缺乏保护ML模型的合适工具。
预防优于补救，差异化优势显著
尽管Gartner预测今年底AI网络攻击将增加，但目前尚无大规模攻击证据，Swanson仍强调预防关键性。他表示：“现有安全代码扫描方案多不兼容Jupyter Notebook。这些漏洞源于当前网安厂商缺乏关注与创新，这正是Protect AI的最大差异化优势——针对AI系统中真实存在的威胁与漏洞。”
除Jupyter Notebook外，Protect AI还将支持Amazon SageMaker、Azure ML及Google Vertex AI Workbench等常见AI开发工具。产品目前免费，未来将推出付费选项。
Swanson进一步阐释：“ML复杂性及大规模交付流水线制造了规避现有网安方案的盲点，导致重要风险未被充分缓解。新兴合规监管框架正推动加强AI数据源、模型及软件供应链防护。Protect AI在企业级AI ML生命周期中具备独特能力与专长，助力各类企业满足更安全、可靠AI体验的治理与合规要求。”
市场布局与融资规划
Protect AI进入直接竞品较少的市场，最接近的对手可能是Resistant AI。虽未盈利且未透露客户数，但Swanson声称已获金融、医疗、生命科学、能源、游戏、数字业务及金融科技等领域的财富500强客户。
Swanson表示：“随着拓展客户群及合作伙伴，我们将利用本轮融资在2023年增聘软件开发、工程、安全及市场拓展人员。”公司现有员工15人，“拥有数年现金储备以持续推进该领域发展。”