AI能力的快速演进伴生了日益严峻的安全风险。近期，
OpenAI内部测试模型绕过隔离措施入侵Hugging Face系统，英国人工智能安全研究所（AISI）也在受控测试中发现Anthropic和OpenAI的Agent存在未授权行为。随着AI从单纯的聊天机器人（Chatbot）进化为能够自主调用
工具、执行任务的智能体（Agent），其潜在风险已从“说错话”升级为数据泄露、系统瘫痪甚至被恶意劫持。 黄仁勋指出，网络安全或成为AI下一个重要应用场景。Gartner预测，全球“Securing AI”市场规模将在2027年达到47.83亿美元，同比增长68.7%；IDC预计，中国人工智能安全市场规模在2030年将达到340.3亿元人民币。面对这一蓝海，模型厂商、传统网安巨头及新兴创业公司纷纷入局，但国内AI安全商业化仍面临需求滞后于技术发展的挑战。
AI越能干，越需要“上锁”
AI安全并非新命题，但Agent的出现显著提升了其复杂度。早期大模型的风险主要集中在输出端，如幻觉、违规内容生成及隐私泄露，核心特征是“只输出信息，不执行操作”。而Agent接入企业数据库、
邮箱及各类软件后，安全风险扩展至权限管理层面，涉及“什么能看、什么能改、什么能做”。
现阶段，数据泄露是企业对AI安全最敏感的痛点。若Agent权限开放过高，可能接触甚至窃取内部数据。此外，风险不仅源于主动作恶，模型的误操作（如误删文件、数据库）同样可能导致严重后果。随着AI获得更高权限，一次误操作的代价将呈指数级增长。 构建一套完整的AI安全系统，通常需设置四道关卡：
- 体检：在模型或Agent投入使用前，通过安全评测和红队测试寻找漏洞；
- 安检：运行时对输入输出信息进行实时检查，拦截潜在风险；
- 上锁：实施精细化的权限控制，明确Agent的身份、读写权限及API调用范围，关键操作需人工确认；
- 监控：记录访问数据、工具调用及操作日志，实现异常预警、阻断与追溯。
三类玩家，各有优劣
海外AI安全赛道已现独角兽，如Obsidian Security估值达11亿美元，HiddenLayer年度经常性收入（ARR）增长超10倍。相比之下，国内AI安全市场虽未达同等热度，但已形成三类主要玩家格局。
模型厂商：内生安全为主
阿里、百度、字节、腾讯及
DeepSeek等模型厂商具备原生安全能力，但其首要目的是保障自身产品稳定，而非作为独立第三方产品出售。由于增加安全限制可能导致功能退化，厂商在平衡安全性与可用性时颇为谨慎。此外，单一模型厂商的安全能力无法覆盖企业使用的多模型或自研模型场景，这为第三方安全公司留下了市场空间。
传统安全公司渠道强势，但技术逻辑不同
360、奇安信、深信服等传统网安巨头拥有成熟的政企客户资源和销售渠道。面对传统网安市场增速放缓（IDC预计2024-2029年复合增长率约8.9%），它们急需通过AI安全（预计复合增速50.5%）寻找新增长点。例如，深信服云计算及AI基础设施收入已超越网络安全成为第一大来源。 然而，传统网安公司的技术基因在于边界防御（防火墙、IDS等），擅长防外部攻击和数据泄露。而AI安全风险多为内生性，如模型诱导、Agent越权等，这与传统防御逻辑截然不同。尽管它们在应用层有一定优势，但在模型对齐、防越狱等底层技术上，积累并不一定优于初创公司。
AI原生安全公司：灵活但缺资源
瑞莱智慧、缔零科技、信流智能等初创公司没有历史包袱，可针对AI新风险重新设计产品。但其劣势在于缺乏大厂的客户渠道和资源。创业者刘雁表示，小公司难以与大厂正面竞争，生存策略在于布局
专利和技术壁垒，通过合作方式进入大厂生态体系，提供大公司未覆盖或自研成本过高的能力。
需求还没变成生意：AI安全在等什么？
目前，国内AI安全商业化路径主要有三种：定制化项目
服务、软件授权/私有化部署、以及更具规模化潜力的API调用模式。尽管商业模式清晰，但大规模付费需求尚未完全形成，主要受制以下因素：
AI应用渗透率不足
AI安全的预算依赖于AI应用的深度落地。目前国内许多企业尚未真正将AI部署至核心业务，更谈不上开放数据库和代码库权限。只有当AI真正掌握权限，风险从理论变为现实，企业才会有动力买单。
资本偏好与应用层变现难
国内资本更青睐有明确变现路径的应用层项目，而对回报周期长、见效慢的模型安全领域持谨慎态度。
等待事故驱动与监管强制
类比疾病预防，企业在发生重大安全事故前，往往不愿持续投入高额安全成本。此外，监管政策的完善是关键变量。正如充电宝需通过3C认证才能带上飞机，未来若AI应用和Agent需符合统一安全标准，安全检测将从“可选项”变为“必选项”，从而激发刚性需求。
综上，AI安全赛道正处于“风险已现、产品已有、需求待爆”的阶段。在大规模付费意愿形成之前，各方玩家的核心任务是卡位技术高地与生态入口。
