AI智能体安全治理白皮书发布
由中国电信牵头，联合公安部第三研究所、华为、蚂蚁集团等机构共同编制的《AI智能体安全治理白皮书》正式发布。该报告聚焦AI智能体从“对话智能”向“决策智能”演进过程中的安全挑战，基于“感知-决策-记忆-执行”四层架构展开系统性分析。
AI智能体风险呈现层级传导特征
AI智能体作为具备环境感知、自主决策与任务执行能力的智能系统，相较传统大语言模型展现出更强的自主性与工具调用能力，同时也衍生出新的安全风险。2025年4月某智能体演示系统遭入侵、InvariantLabs披露提示词注入攻击等事件，凸显其潜在安全隐患。
在感知层，存在指令劫持与环境干扰风险；决策层面临错误推理放大与逻辑陷阱问题；记忆层易发生隐私泄露与记忆污染；执行层则可能出现恶意操纵与行为失控。值得注意的是，各层风险具有传导性，单一漏洞可能引发连锁反应，放大整体危害。
多方协同推进安全治理实践
针对上述风险，白皮书提出分层治理框架：感知层需保障输入输出、通信及工具调用安全；决策层应强化验证机制、抑制模型幻觉并确保多智能体交互安全；记忆层须加强内容与存储防护；执行层重点在于任务识别、行为监控与恶意智能体阻断。
实践中，中国电信星辰智能体平台构建了覆盖知识库与工作流的多维安全治理体系；蚂蚁集团研发MCPScan工具，实现对MCP协议风险的分阶段检测；中国信通院联合多家单位建立端侧智能体评测框架，提升风险识别精准度。
推动AI智能体安全可控发展
展望未来，报告建议从三方面发力：一是完善顶层设计，明确责任边界与技术标准；二是夯实技术基础，全面提升各层级防护能力；三是强化前沿场景布局，针对不同类型的AI智能体制定差异化安全策略，切实推动AI智能体安全、可控、可持续发展。
未完……更多详情请参考完整报告
免责声明：我们尊重知识产权与数据隐私，仅对公开信息进行整理分享。报告内容来源于合法渠道，版权归原机构所有。如涉及侵权，请及时联系我们删除；对内容有疑问者，请与原始发布机构联系。