生成式 AI 会胡编乱造、存在偏见，甚至输出有害内容。那么，它真的能“安全”吗？WitnessAI 首席执行官 Rick Caccia 认为可以。
“确保 AI 模型本身的安全固然重要，但这与‘使用安全’是两回事。”前 Palo Alto Networks 营销高级副总裁 Caccia 在接受 TechCrunch 采访时比喻道，“这就像跑车：拥有更强大的引擎（即模型）并不够，还必须配备良好的刹车和转向系统。对于高速行驶而言，控制系统与引擎同等重要。”
企业界对这类控制措施确有需求。尽管企业对生成式 AI 提升生产力的潜力持谨慎乐观态度，但也对其技术局限性表示担忧。
IBM 的一项民调显示，51% 的 CEO 正在招聘今年之前不存在的生成式 AI 相关职位。然而，Riskonnect 的调查却发现，仅有 9% 的公司表示已准备好管理因使用生成式 AI 而产生的威胁——包括涉及隐私和知识产权的风险。
WitnessAI 的平台可拦截员工与企业自定义生成式 AI 模型之间的交互活动。这些模型并非通过 API 访问（如 OpenAI GPT-4），而是更接近 Meta Llama 3 的部署方式。平台会对交互过程应用风险缓解政策和保障措施。
“企业 AI 的承诺之一是解锁并民主化企业数据，赋能员工高效工作。但如果敏感数据被过度开放，导致泄露或被盗，就会引发严重问题。”
WitnessAI 提供多个功能模块，分别应对不同类型的生成式 AI 风险：
- 策略管控模块：允许组织实施规则，防止特定团队不当使用 AI 工具（例如询问未发布财报或粘贴内部代码库）；
- 数据安全模块：自动从发送给模型的提示词中剔除专有及敏感信息，并采用技术手段防御可能导致模型偏离预设轨道的攻击。
Caccia 表示：“我们认为帮助企业最好的方式，是明确一个有意义的目标——例如安全地采用人工智能——然后提供针对性解决方案。首席信息安全官（CISO）希望保护企业，WitnessAI 便通过确保数据保护、防止提示注入及执行基于身份的策略来助力；首席隐私官关注合规，我们则为其提供可视化手段以及活动与风险的报告机制。”
但从隐私角度看，WitnessAI 面临一个棘手问题：所有数据在到达模型前均需经过其平台。该公司对此保持透明，甚至提供工具供企业监控员工访问了哪些模型、提出了哪些问题及获得了何种回复。但这可能带来新的隐私风险。
针对隐私政策质疑，Caccia 回应称，该平台采用“隔离”架构并经加密处理，以防止客户机密泄露至公开环境。
“我们构建了一个毫秒级延迟的平台，内置监管隔离机制。这是一种独特的隔离设计，不同于传统多租户 SaaS 软件，能为企业 AI 活动提供更高层级的保护。”他解释道，“我们为每位客户创建独立的平台实例，并使用客户自有密钥进行加密。客户的 AI 活动数据仅对其自身可见，我们无法查看。”
这一举措或许能缓解客户担忧，但对于担心被监控的员工而言，接受度仍是难题。
调查显示，人们普遍反感工作活动被监控，认为这会负面影响公司士气。近三分之一的 Forbes 调查受访者表示，若雇主监控其在线活动和通讯，他们可能会考虑离职。
但 Caccia 坚称，市场对 WitnessAI 平台的兴趣持续强劲。目前已有 25 家早期企业用户处于概念验证阶段（平台将于第三季度正式全面可用）。在资本层面，WitnessAI 已从 Ballistic Ventures（孵化方）和 GV（Google 企业风投部门）筹集 2750 万美元。
这笔资金将用于把 18 人的团队扩充至年底的 40 人。增长将是击败竞争对手的关键——该领域不仅有 AWS、Google、Salesforce 等科技巨头，还有 CalypsoAI 等初创公司。
Caccia 透露：“即使全年无销售额，现有资金也足以支撑我们进入 2026 年下半年。目前我们的销售线索量已是达成年度目标所需数量的近 20 倍。这是我们首次融资和公开亮相，安全 AI 赋能与应用是一个新兴领域，我们正根据新市场需求开发全部功能。”