大数跨境

Noma 正在构建用于发现 AI 应用安全问题的工具

Noma 正在构建用于发现 AI 应用安全问题的工具 海外洞察
2024-10-31
1
导读:企业担心,其对人工智能的急切采用使其更容易受到网络威胁。根据最近一项针对350多名IT领导人的调查,更多

企业AI安全隐忧催生新机遇,Noma Security获2500万美元A轮融资

企业急于采用人工智能的做法使其更易遭受网络威胁。近期针对350多名IT领导者的调查显示,超半数受访高管认为AI应用的复杂性削弱了组织的网络安全态势;另有超五分之二的高管指出,其安全团队缺乏保护AI应用及工作负载所需的技能。

这一需求催生了一批初创公司:HiddenLayer和Protect AI专注于防御对抗性攻击,Cranium提供应用层AI系统可见性。而今日走出隐身模式的Noma Security声称具备更全面的能力。联合创始人兼CEO Niv Braun表示,该公司正开发用于识别数据科学环境中易受攻击的数据管道、代码以及提示注入攻击等威胁的工具。

Braun在离开客户体验自动化公司Verint后与Alon Tron共同创立Noma,期间他注意到安全团队在数据和AI生命周期中存在“重大盲区”。他指出:“现有工具是为传统软件开发生命周期设计的,但数据和AI的生命周期本质上不同,涉及不同的研发流程和技术,且面临AI模型中独特的技术漏洞。”

Noma旨在发现并修复AI应用组件中的配置错误。例如,该平台会扫描模型训练数据集中的敏感数据(如包含个人可识别信息的文本)。Braun认为,若企业能将AI安全功能整合至支持云环境和自托管环境部署的统一仪表板中,将能更好地应对威胁。

他表示:“许多单一功能的安全解决方案正涌入市场试图利用AI热潮。Noma通过帮助企业了解AI应用足迹并提供治理控制,不仅助力组织最小化和缓解风险,还赋予其信心,以更快地扩大业务中高价值部分的AI使用。”

成立于2023年的Noma已拥有包括B2B软件、金融服务和零售领域财富500强在内的付费客户。该公司最近完成了2500万美元A轮融资,Braun称这笔融资被投资者提前锁定,当时公司资金充裕。

Braun表示:“尽管资金充足,我们仍决定接受这2500万美元投资以加速产品开发,尤其是推动面向市场的团队和举措。”他补充道,Noma计划在未来一年内将现有20人的团队规模扩大一倍。

Ballistic Ventures领投了本轮A轮融资,使Noma累计融资总额达3200万美元。此前,公司已完成一轮700万美元的种子轮融资,由Glilot Capital Partners领投,Cyber Club London参与投资。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k