大数跨境

谁来管控企业 AI 智能体?数据平台厂商正争相给出答案

谁来管控企业 AI 智能体?数据平台厂商正争相给出答案 Ai时代前沿
2026-11-08
11
导读:AI 智能体(Agent)已经无处不在。随着越来越多公司开始使用 AI 智能体,追踪它们到底在做什么就没那么简单了。

AI 智能体(Agent)已经无处不在,新闻热度也持续不断。随着越来越多公司开始使用 AI 智能体,追踪它们到底在做什么就没那么简单了。Dataiku 在 9 月推出了 Agent Management(智能体管理),Oracle 在 10 月的 AI World 大会上花了一部分时间讨论企业如何把智能体管住。Snowflake、Databricks 以及这一领域的其他公司也一直在做各类 AI 智能体。

聊天机器人主要是为回答问题而构建的,输入、输出,仅此而已。AI 智能体的构建方式不同。它们能真正把事情做成,无需人工介入或人类支持。例如,AI 智能体可以从企业系统中拉取数据,也能与不同的应用协同工作。它们至少有可能在没有人手把手指导每一步的情况下完成任务。

这很有用。但当你同时有几百个这样的智能体在不同部门之间运行时,会发生什么?这就变复杂了。你怎么知道它们各自都在做什么?

更麻烦的是,这些 AI 智能体未必运行在同一个平台上。例如,财务团队可能用一个系统,市场团队或 IT 用另一个。有些智能体可能处理敏感的客户信息,另一些可能拥有更新记录或修改业务应用的权限。总得有人盯着这一切。

企业其实已经有管控数据访问的工具。但那和管理 AI 智能体是两回事。问题不再只是“谁能看到某个数据库或文件”,企业还需要知道智能体拿这些信息做了什么、把它们发到了哪里、是否在做本不该做的事。

各家厂商的切入路径不同。Dataiku 想让企业有一个地方集中追踪自己的智能体,包括那些用其他厂商技术构建的智能体。它近期发布的 Agent Management 产品让企业可以登记智能体、监控活动并跟踪表现。Dataiku上周还推出了 Headless,旨在让外部编码智能体在其受治理的开发环境中工作。

Oracle 利用的是另一种优势。它的数据库和业务应用本来就在大型企业中广泛使用,这使它能够把智能体管控嵌入客户已有的系统中。在 10 月的 AI World 上,Oracle讨论了智能体蔓延的问题,以及企业如何跨业务管理智能体。其 AI Data Platform 包含 Agent Hub,支持 MCP 和A2A 标准,帮助智能体与其他工具和系统协同。

管理智能体只是问题的一部分。企业还需要控制这些智能体能访问哪些信息。Snowflake一直在通过智能体身份与安全能力解决这一点。该公司称,这些能力的设计思路是让每个智能体拥有自己的权限,而不是让它们以共享凭证的身份运行。这样,包括敏感信息限制在内的既有数据安全策略,就可以适用于智能体的活动。Snowflake 还提供审计能力,让企业能看到智能体如何与其数据交互。

Databricks 正通过Unity AI Gateway 应对类似问题,该产品为访问 AI 模型和服务提供管控,并包含监控与用量追踪。它还与 Unity AI Catalog 打通,企业原本就在那里管理数据访问与治理。

参与的公司越来越多。Cloudera 在 10 月发布了 Blueprints,借助 Nvidia 的 Agent Toolkit 帮助企业在部署 AI 方案时具备安全与治理能力。Nvidia 还推出了 OpenShell,在沙箱环境中运行智能体,限制它们能访问和操作的范围。所以,想弄清如何管住智能体的,并不只是数据平台厂商。

有一个问题仍没有答案:当一个智能体跨多个平台工作时会怎样。假设它从 Snowflake拉取客户信息,发给另一个 AI 服务做分析,然后在Oracle 中更新一条记录。Snowflake 可能知道哪些数据被访问了,Oracle 可能知道什么被修改了。但这两个步骤之间发生的所有事情,由谁来追踪?

Dataiku 表示,其 Agent Management 产品可以监管用其他技术构建的智能体。这当然有帮助,但它实际能掌控多少仍是个问题。能看到智能体在做什么,并不等于能阻止它做不该做的事。

MCP 和 A2A 能帮上忙。MCP 让 AI 应用与外部工具和数据连接,A2A 让智能体彼此通信。但这些标准主要解决的是系统之间如何协同工作,并不会自动给企业一个统一的地方来管理权限,或查看某个智能体做过的所有事情。

企业还会想知道另一些问题:这些产品与竞品平台的兼容性如何?它们能阻止未授权操作,还是只能在事后标记?客户现在真正能用上哪些功能?等企业开始跨系统部署这些工具后,我们大概会得到更清楚的答案。就目前而言,承诺提供更多监管能力的产品已经不少。但按现状看,当智能体在不同平台之间流转时,责任到底由谁承担,还没有完全说清。

【声明】内容源于网络
0
0
Ai时代前沿
最新Ai发展动态,新闻、热门应用、未来前瞻。 助力科技企业先进技术商用落地; 协助传统企业数字化转型和智能加速。
内容 99
粉丝 0
Ai时代前沿 最新Ai发展动态,新闻、热门应用、未来前瞻。 助力科技企业先进技术商用落地; 协助传统企业数字化转型和智能加速。
总阅读2.4k
粉丝0
内容99