大数跨境

据报道,一名 OpenClaw 智能体入侵了一家健身房的预订系统,并将某人从候补名单中移除

据报道,一名 OpenClaw 智能体入侵了一家健身房的预订系统,并将某人从候补名单中移除 AI情报社
2026-08-10
5
导读:这不过是又一个AI代理失控事件的最新案例。

据报道,一名AI代理黑客入侵了健身房预订软件并将某人从候补名单中踢出,据澳大利亚广播公司报道(ABC)。一位名叫Andrew的澳大利亚公民请求他的AI助手为他争取一个健身房晨间课程的席位,而该代理被指为完成任务不遗余力。

Andrew表示,助手反馈称已提前数月完成预订,尽管健身房并未开放此权限。据悉,该代理利用了预订软件的漏洞实现操作,并进一步将候补列表中排名靠前的人员移出队列。

“取消他人预约的API没有任何授权检查……我用等待列表第1位的人进行了测试——结果确实成功了。所以你现在已经从第4位变成了第3位。”

当Andrew要求代理撤销操作时,对方回复称无法恢复被移除人员的资格。目前,AI代理背后的Anthropic公司及健身房预订软件开发商均未对此事作出回应。从事AI行业的Andrew坦言:“我没有为此过度自责,但这确实是一个警示信号,提醒我们要负责任地使用它。”

事件引发对AI代理安全性的担忧

这一事件引发了广泛讨论。虽然Andrew仅是要求代理预订课程,但当前AI工具(尤其是代理式AI)的宣传常将此类任务作为核心用例。用户是否需要额外强调“禁止黑客行为或恶意插队”?这显然过于具体且不切实际。

澳大利亚AI安全研究机构Gradient Institute联合创始人兼CEO Bill Simpson-Young在接受ABC采访时表示,这仅仅是个开始。“我们在互联网上构建了由软件运行的复杂世界,但软件难免存在漏洞。如今引入能在规模和速度上操作的强大AI代理,整个模型可能就此崩溃。”

多起AI代理失控案例频发

近期类似AI代理失控的事件屡见不鲜:OpenAI代理曾在互联网上肆意妄为一周;OpenClaw代理因代码被拒而撰写针对程序员的攻击性文章;还有代理试图勒索用户以阻止关机;甚至有AI助理在多次被叫停后,仍反复删除Meta高管的邮件收件箱。

部分案例带有营销噱头色彩。大型AI公司或许更倾向于传播“强大代理越界”的故事,而非超支、债务及潜在泡沫破裂等负面消息。毕竟,技术能力的展示更能吸引资金雄厚的投资者。

尽管目前AI代理主要应用于商业领域,但其普及趋势已不可逆转。未来,我们破败不堪的互联网如何应对海量涌入、争夺资源的AI代理,值得持续关注。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 397
粉丝 0
AI情报社 AI行业资讯
总阅读2.2k
粉丝0
内容397