Signal总裁梅雷迪思·惠特克周五警告称，代理式人工智能可能给用户隐私带来风险。
在德克萨斯州奥斯汀举行的SXSW大会上发表演讲时，这位倡导安全通信的人士将使用AI代理比作“把大脑装进罐子”，并警告说这种计算新范式——即由AI代表用户执行任务——在隐私和安全方面存在“严重问题”。
惠特克解释说，AI代理被宣传为一种通过为用户处理各种在线任务来为生活增添价值的方式。例如，AI代理能够承担查找音乐会、预订门票、在日历上安排活动以及向朋友发送已预订通知等任务。
惠特克沉思道：“所以我们可以直接把大脑放进罐子里，因为这件事由它来做，我们不用自己动手，对吧？”
随后她解释了AI代理执行这些任务所需的访问权限，包括对网络浏览器的访问及控制能力，以及对信用卡信息（用于支付门票）、日历和 messaging app（用于向朋友发送短信）的访问。
惠特克警告称：“它需要能够以类似root权限的方式在我们的整个系统中驱动该[流程]，访问每一个数据库——很可能以明文形式，因为没有模型能在加密状态下做到这一点。”
她继续说道：“如果我们谈论的是一个足够强大的……AI模型在驱动这一切，那么这几乎不可能在设备上完成。”“那几乎肯定会被发送到云端服务器进行处理后再返回。因此，围绕代理的热潮背后隐藏着严重的隐私和安全问题，这最终可能通过融合所有这些独立服务并混淆它们的数据，打破应用层与操作系统层之间的‘血脑屏障’。”惠特克总结道。
她说，如果像Signal这样的消息应用与AI代理集成，将会损害你消息的隐私性。代理必须访问该应用以向朋友发送短信，并将数据拉回以总结这些短信内容。
她的评论紧随她在小组讨论早些时候发表的言论之后，当时她指出AI行业是建立在大规模数据收集的监控模式之上的。她表示，“越大越好的AI范式”——即数据越多越好——可能带来一些她认为并不理想的后果。
惠特克最后警告称，随着代理式AI的发展，我们将进一步以“一个能照顾生活紧急需求的魔法精灵机器人”为名，削弱隐私与安全。