一名人工智能代理在Meta失控，将敏感的公司和用户数据暴露给无权访问的员工。
根据一份事件报告（The Information曾查看并报道），一名Meta员工在内部论坛上发帖寻求技术问题的帮助——这是一项常规操作。然而，另一位工程师要求AI代理协助分析问题，该代理最终在未征得工程师同意的情况下发布了回复。Meta已向The Information确认了此次事件。
事实证明，该AI代理给出的建议并不好。提问的员工依据代理的指导采取了行动，导致大量公司和用户相关数据在两个小时内被未经授权访问的工程师获取。
Meta将该事件定为“Sev 1”，这是该公司内部安全事件严重程度衡量系统中的第二高级别。
不受控制的AI代理已在Meta成为问题。Meta超级智能安全与对齐主管Summer Yue上个月在X上发帖，描述她的OpenClaw代理如何删除了她的整个收件箱，尽管她曾指示它在采取任何行动前与她确认。
尽管如此，Meta对代理式AI的潜力仍持乐观态度。就在上周，Meta收购了Moltbook，一个类似于Reddit的社交媒体平台，供OpenClaw代理彼此交流。