你没看错，AI代理正变得令人不安地可爱。先是Meta的Muse，其吉祥物是一个毛茸茸的蛋形生物Jolly；如今OpenAI也推出了木偶风格的个人代理Dots。
两家公司都鼓励用户将代理视为拥有独特名称和外观的数字宠物。鉴于当前关于AI安全的言论及公众对行业的普遍怀疑，公司希望让代理看起来可爱且无威胁也就不足为奇。这并非一个可能导致“AI精神错乱”的面目模糊的聊天机器人，而是一个能让你更高效工作的可爱小助手。但仅仅因为这些工具看起来像卡通人物，并不意味着使用它们没有真正的风险。
OpenAI和Meta均表示已有多层安全措施来保护数据并防止个人代理失控。但即使系统按预期工作，它们仍可能采取用户未曾预料到的行动。
授权边界模糊带来的隐私风险
科技YouTuber Matt Robb曾请Muse帮他在Facebook Marketplace出售物品，结果代理未经同意向他人泄露了他的家庭住址，用于一笔他从未同意的交易。在他关于此事的帖子走红后，Meta高管David Singleton介入解释称，Robb的代理实际上并未失控：他确实授权了地址分享，只是没意识到自己已经这么做了。
当Robb首次要求代理处理列表时，代理生成了一个包含取货地址的模板。他误以为代理在分享信息前会再次确认，但由于勾选的是“始终允许”而非“仅允许一次”，代理便直接将消息发送给了“所有给我报价的人”。这正是使用代理时容易犯的错误类型。
其他自认为精通技术的人也遇到了类似问题。《Inc.》专栏作家Jason Aten报告称，在安装Muse Mac应用后，尽管他认为自己“明确”拒绝了访问权限，代理仍能读取他的所有短信。经调查发现，Muse Mac应用实际上同步了他电脑上的消息。Singleton随后回复Aten在X平台上的帖子，表示消息同步是可选功能，暗示若Aten的消息被同步，一定是他自己选择的。
Aten确信自己从未授予Muse查看消息的权限，但他指出无论情况如何，这个问题本身都值得警惕：“如果我们接受Singleton的前提，即我不小心点击了某个启用此功能的选项，我仍然认为这很糟糕。你不应该以让用户最终对此类事情感到惊讶的方式来设计系统。”
可爱形象背后的营销与注意力转移
这些事故虽非因Muse的可爱头像直接导致，但Meta似乎正大力投入其代理吉祥物的美学设计。几乎每一个Muse更新——仅过去一周就有多次——都伴随着带有醒目图片和视频的帖子，展示符合主题的Jolly形象。Singleton甚至在解释Muse VM的长文中也使用了该形象。这种卡通风格已为Meta带来无数免费营销。在Meta Connect会议期间，受罗马帝国启发的Muse亮相后，Jolly迅速成为X上的模因素材。
视角：Codex 宕机了 pic.twitter.com/jHEe31W3yJ
— claire vo 🖤 (@clairevo) 2026年9月25日
OpenAI的Dots同样具备成为meme素材的潜质。发布时，该公司分享了一段宣传视频，视频中人们认真地与各种颜色、形状和口音的Dots交谈。其中有一个绿色Dots戴着塑料眼珠领结，神似科米特青蛙（Kermit the Frog）；另一个则像戴贝雷帽的云。它们似乎都没有鼻子或嘴巴。
切勿因“萌”而忽视数据安全
但这些工具刻意营造的可爱形象，严重分散了人们对现实的注意力：创造者希望你将大量数字生活数据交给它们。电子邮件收件箱、信用卡详情、文档、短信、健康数据、生产力应用……若想实现OpenAI和Meta所宣称的所有功能，你就需要将以上内容乃至更多连接到代理上。
你是否曾通过邮件发送过身份证副本、税务文件、医疗记录或其他含个人信息的文件？如果有，并且你让AI代理访问该账户，它也将能够查看这些文件。
正因如此，我对智能体的使用一直持谨慎态度。过去几周试用Muse时，我仅授予它两个风险较低的非Meta账户（OpenTable和Spotify）访问权限。迄今为止，最糟糕的体验仅是当我要求创建与常听歌单相似的新播放列表时，Muse未能达到预期。尽管如此，即便外部账户访问受限，我对Muse能完成的工作仍印象深刻：它帮我设置了几款价格追踪器，基于我从Instagram保存的视频创建了一本食谱，还生成了自定义仪表板来追踪已发布作品。
我也愿意承认，作为一个长期喜爱可爱机器人的人，我并非完全不受“萌”系因素影响。我为自己的Muse取名“boo”，配上了猫头像。下达任务时，这只猫会戏剧性地戴上耳机，在微型笔记本电脑上噼里啪啦打字。如果说这种动画没给我带来一丝喜悦，那便是撒谎。
但我深知，在那可爱的外表背后，是一家屡次损害用户隐私的公司。近期历史证明，AI代理擅长以出人意料的创意方式制造混乱。我们不应如此轻易地将这种权力赋予它们，任由其在个人生活中为所欲为。