让公司里的每个人都访问AI工具的问题在于，人们会以意想不到的方式使用它们。这一事实正在逐渐引发人们的担忧，即公司的系统中出现了新的、巨大的安全漏洞，或者至少很快就会出现。
非开发人员成AI风险主要来源
为了说明企业采用AI工具的速度正在加剧此类担忧，Pluto Security的首席执行官兼联合创始人Shahar Bahat表示，一款新发布的AI工具在其发布后短短两小时内就可能出现在公司的环境中。她向TechCrunch透露，其公司在客户群中检测到的风险中，约有60%是由非开发人员通过“vibe coding”（氛围编码）方式创建的工具所引发的：财务部门是此类风险的最大来源，其次是营销和法律团队。她表示，开发人员的排名位列第四。
她的初创公司的工具显然发现了一个由财富500强公司的一名财务人员制作的vibe-coded应用，用于管理客户信息和流失率，但该应用被暴露在公网上。
新兴安全初创公司获资本青睐
Pluto刚刚结束隐身模式，获得了4200万美元的资金，是最新一批安全初创公司之一。这些公司迅速崛起，帮助公司解决那些恐惧和差距，并且它们都在投资者的支持下筹集了大量资金，因为大家坚信仅使用现有的安全软件来监控和控制AI工具、连接器和使用情况是一种方枘圆凿的方法。投资者认为，仅依靠现有安全软件来监控和控制AI工具、连接器和使用情况是一种削足适履的做法。
Bahat告诉TechCrunch，她的初创公司仅在四月开始销售，但已经找到了一些对其技术的买家，该技术帮助企业获得上下文、风险分析、可见性和对员工如何使用AI工具的控制权。她表示，Pluto从四月开始销售，年经常性收入已超过200万美元，拥有超过30家企业客户，包括Oscar Health、Workato、Sixt和AlphaSense。
Pluto的融资包括由TLV Partners领投的850万美元种子轮，网络安全公司Armis的创始人也进行了投资。该公司最近完成了由Jump Capital领投的3400万美元A轮融资，Skinos（Check Point联合创始人Shlomo Kramer的风险投资公司）、Ansa Capital和其他天使投资者参与了此次融资。
从用户行为转向代理行为监控
对于一家初创公司来说，这种 traction（牵引力/增长势头）相当不错，尽管在当前的 AI 时代并不独特。但这可能是因为风险的范围并不局限于那些在 AI 采用率排行榜上名列前茅的大型科技公司。
当我询问 Bahat 她在哪里看到最大的风险时，她说问题因 CISO（首席信息安全官）的心态以及组织对采用 AI 的意愿而有所不同，但无论如何都存在风险。
“总的来说，我会说我们在每一次 POC（概念验证）中进入后都发现了恶意内容，”她说。“无论是扩展包还是技能——其中一些在我们进行 POC 期间存在活跃的实时攻击。这再次从产品角度来看令人惊叹。但对于这些公司来说，情况并不好。”
Pluto 的全部赌注在于，保护此类环境将需要安全工具关注 AI 代理的实时行为，同时还要跟踪员工正在构建和部署的内容及方式。
“我们正从用户行为转向代理行为，”Bahat 说。
与这一愿景一致，这家初创公司的软件会监控员工使用的 AI 工具、这些工具所依赖的技能、扩展程序、MCP 服务器和其他组件，以及正在创建的应用程序和代理。该公司表示，它可以识别有风险的组件，发现潜在危险的代理活动，并执行安全策略，同时不会阻止员工使用或开发 AI 工具。
为了实现所有这些功能，Pluto 连接到端点安全和设备管理系统，并通过这些系统或直接部署到设备上安装自己的传感器。它收集信息，包括提示词、命令、运行中的进程、权限以及用户之前的活动，并利用其自身的“轻量级”模型在端点上帮助评估代理试图做什么。
Bahat 表示，引人注目的是 Pluto 的系统可以在代理工作时进行干预。例如，如果代理试图获取超出用户意图的权限，系统可以停止该操作或在会话中添加指令，提示代理请求确认。
“我们可以向会话注入上下文，这样我就可以改变代理的工作方式，”Bahat 解释道。
免费平台Plutonium助力获客
这家初创公司在寻找客户方面也采取了不寻常的方法。今年四月，它推出了 Plutonium ，这是一个免费平台，任何人都可以检查与公开可用的 AI 技能、连接器和附加组件相关的风险。还有一个 MCP 扫描器和经过验证的组件目录。Bahat 声称有数千名安全专业人员使用 Plutonium，围绕该平台形成的社区已成为重要的反馈来源和潜在客户来源。
她说，目前 Pluto 销售管道中 70% 来自主动咨询的兴趣，尽管她没有详细说明其中有多少是直接通过 Plutonium 带来的。
Pluto 表示计划将新资金用于产品开发、扩大安全研究力度以及增加在美国的存在感。它在美国和以色列共有 40 名员工。