静下心来想想,人工智能在过去四年里取得的进步令人惊叹:从反复在“草莓里有几个r”的测试中失败,到如今能在几分钟内生成高度逼真的电影。而现在,Claude已强大到可完全管理你的Gmail收件箱,包括未经批准便代表你发送、回复和转发邮件。
在其迅速崛起的过程中,人工智能经历了不止一次史诗级失败。就在不久前,OpenClaw无视指令,删除了Meta超级智能实验室AI安全研究员Summer Yue的邮件。显然,这项技术远非无懈可击。因此,将如此重要的收件箱交给Claude伴随着风险,尤其是当它被允许在未经确认的情况下执行写邮件、发邮件等严肃操作时。
一些最明显的风险包括:
- AI可能在邮件中产生幻觉并插入虚假信息,在你发现前将其发出;
- Claude误解请求,发送或转发你从未打算发送的内容;
- 传入消息中的隐藏提示词劫持系统,使其按攻击者指示行事。
这些风险并非理论上的,而是确实发生过。幸运的是,Claude无法永久删除任何邮件,但可将其移至垃圾箱或归档。

