谷歌DeepMind发布AI控制路线图：以网络安全理念遏制代理失控风险
谷歌DeepMind部门正式发布“AI控制路线图”。该方案借鉴网络安全防御理念，摒弃了AI系统始终保持一致的乐观假设，转而采取最坏情况视角，旨在有效遏制偏离预设轨道的AI代理。
报告将来自谷歌内部系统的假设性AI对手威胁划分为三类：一是失去控制，即内部部署的代理脱离监管；二是破坏安全研究机制；三是直接造成损害，包括摧毁或窃取关键资产等。
针对上述风险，谷歌提议引入其他可信AI系统作为监督者，持续审查代理的推理逻辑与行为模式，确保在有害行为造成实质损害前予以制止。这种双重验证机制被形象地比作驾驶教练的协同管控。
当前AI代理正加速渗透互联网环境。据PYMNTS数据显示，自动化系统目前已占据全球网络请求量的57.4%，其中零售和电子商务领域的代理流量占比达46.6%。