随着OpenAI GPT-3等AI服务日益普及，其正成为极具吸引力的攻击目标。即便有API保护，黑客仍可能通过逆向工程底层模型或利用“对抗性”数据进行篡改。Gartner预测，2022年30%的AI网络攻击将利用此类技术及数据投毒手段（即向训练数据集注入恶意数据以攻击AI系统）。
HiddenLayer获600万美元种子轮融资
应对安全威胁是行业的长期任务。HiddenLayer平台旨在通过自动识别并响应针对模型的恶意活动，简化AI即服务提供商面临的安全挑战。
今日，HiddenLayer结束隐身状态，宣布获得来自Ten Eleven Ventures、Secure Octane及其他投资者的600万美元种子轮融资。创始人Chris Sestito曾任Cylance威胁研究总监及Qualys工程副总裁，他与Tanner Burns、Jim Ballard于数月前共同创立该公司。Burns和Ballard亦曾在Qualys、Cylance及BlackBerry共事，分别担任威胁研究员和数据策展团队主管。
非侵入式防御与行业观点
Sestito表示：“企业为获取竞争优势在机器学习上投入巨大。对抗性机器学习攻击能造成与传统网攻同等的破坏，包括泄露客户数据和摧毁生产系统。我们认为，机器学习模型被勒索回所属组织的日子已不远。”
HiddenLayer技术可在无需访问原始数据或供应商算法的情况下保护模型。通过分析模型交互（输入数据与输出预测），该平台能以“非侵入式”方式识别恶意模式，且无需事先了解训练数据。Sestito强调：“对抗性ML攻击不像勒索软件那样声势浩大，必须主动寻找才能察觉。我们专注于研究优先的方法，以帮助世界做好准备。”
AI研究人员Mike Cook指出，尚不清楚HiddenLayer是否有“真正突破性”的创新，但其试图将AI攻击知识打包并广泛可用具有积极意义。他表示：“现代ML运作知识仍主要掌握在专家手中，例如从GPT-2/3提取训练数据的案例。当专家知识稀缺时，企业需要便捷获取这些知识的途径。”
市场现状与未来展望
HiddenLayer目前尚未产生收入和客户，但已与多家知名设计合作伙伴接触。Cook认为其成功取决于AI攻击威胁的实际严重性，目前针对ML系统的攻击普遍性尚不明确，现实世界攻击案例也鲜有公开报道。不过，该领域研究呈爆炸式增长，Arxiv.org上关于AI安全的论文从2016年的56篇增至2019年的超1500篇。
Sestito断言，无论当前威胁规模如何，它都将随AI市场增长而扩大。尽管已有Robust Intelligence、CalypsoAI等竞品，但他声称HiddenLayer基于AI的检测和响应方法独树一帜。
普华永道预测2030年AI市场将达15.7万亿美元。Sestito表示：“我们必须立即开始保护这项技术。当前最大目标是普及这一新威胁认知。新技术带来新攻击途径，这无异于在新前沿阵地展开战斗。”