几年前，KPMG合伙人Jonathan Dambrot在协助客户部署AI系统时，发现合规与安全领域存在显著空白。他指出，当时无人能明确AI系统的安全性及责任归属。
“数据科学家缺乏对AI网络安全风险的认知，而安全专家也不像理解传统技术那样精通数据科学，”Dambrot在接受TechCrunch邮件采访时表示，“亟需提升风险意识并推动立法，以确保组织能在安全可靠的基础上做出AI决策。”
基于这一洞察，Dambrot向KPMG内部加速器KPMG Studio提案孵化一家专注于AI安全与合规的初创企业。他与联合创始人Felix Knoll（KPMG Studio增长负责人）、Paul Spicer（KPMG产品负责人）及约25名开发者和数据科学家共同创立了Cranium。
近日，Cranium正式结束隐身模式，宣布完成700万美元融资，投资方包括KPMG和SYN Ventures。
Dambrot介绍：“Cranium旨在提供客户端AI系统的可视化、安全报告及监控，并生成合规性与供应链可见性报告。核心产品以更全面的视角应对AI安全和供应链风险，通过增强系统透明度、针对对抗性风险的安全措施以及供应链可见性，填补现有解决方案的空白。”
为此，Cranium致力于映射AI管道、验证安全性并监测外部威胁。常见威胁包括数据投毒（污染训练数据）和文本攻击（利用恶意指令欺骗AI），具体风险因客户而异。
Cranium可在现有机器学习模型训练测试环境中运行，帮助客户捕获开发及已部署的AI管道全生命周期资产，建立AI安全框架，为安全与数据科学团队构建程序奠定基础。
“我们计划建立丰富的遥测库，利用AI模型主动识别客户群中的风险，”Dambrot表示，“许多风险已在其他框架中被识别，我们希望随着嵌入式基础的扩大，成为关键的数据源。”
尽管AI新威胁层出不穷，且HiddenLayer、Robust Intelligence、CalypsoAI及Troj.ai等公司已在该领域布局，Cranium作为后来者，目前几乎尚无客户与收入。
当前行业痛点在于难以确定针对AI系统的现实世界攻击案例。Adversa研究显示，Arxiv.org上关于AI安全的论文从2016年的56篇激增至2019年的超1500篇，但鲜有黑客攻击商业面部识别系统的公开报道。
不过，SYN管理合伙人兼Cranium投资者Jay Leek仍看好AI鲁棒性领域的未来。他表示：“我们跟踪AI安全市场多年，从未觉得时机如此成熟。随着AI变革加速，确保跨行业的适当治理以保障安全、完整性及防滥用至关重要。Cranium平台将在AI全生命周期注入安全与信任，助力企业在获取AI收益的同时管理不可预见风险。”
Cranium目前拥有约30名全职员工，若业务发展顺利，预计年底将扩充至40-50人。