快速提问：你希望人工智能训练得如此完善，以至于能帮丈夫（或妻子）策划一场针对配偶的完美谋杀吗？
凭直觉反应，我觉得答案是否定的。我甚至不觉得这是个特别难回答的问题。
但美国拥有多种多样的观点，其中一种观点在周末由 Comma AI 创始人兼长期越狱专家 George Hotz 分享。
这篇文章是对一系列宏观AI对齐计划的回应，最近的是AI Futures Project发布的《AI 2040：计划A》政策论文。该论文设想了一个世界，在这个世界里，全球的研究人员集体选择为了人类的福祉而减缓AI发展14年。但当然，并非所有阅读该论文的人都同意其前提或结论。
事实上，Hotz 不同意整个前提，即人工智能的进步应为集体利益而受到管理。在他的文章中，他认为“快速起飞”情景——即人工智能迅速获得超人类能力的假设情景——并不太合理。（我非常同意他在这里说的很多内容！）对 Hotz 来说，实现人工智能对齐和安全性的最佳方法是专注于由本地控制且与用户利益紧密一致的人工智能模型。
这是一个很酷的想法，尤其是它让我意识到当前的AI在很大程度上是围绕像Claude和ChatGPT这样的集中式管理服务构建的。以这种方式开发AI服务存在基础设施方面的原因：托管这些大型最先进的模型成本高昂，而且大多数人一天中并没有足够频繁地使用它们来证明真正个性化的AI是合理的。但随着技术的发展，这些因素变得不那么重要。OpenClaw令人兴奋的部分原因在于这种实验性、DIY的方法，如果能看到更多AI产品尝试重现这一点，那就太好了。
但 Hotz 天生就是个挑衅者，所以他并没有就此止步。他将用户导向型人工智能比作一把枪（！），这把枪不会抱怨你用它来杀死你的继母。（我觉得对此还有其他法律禁止吧？）他说，一个真正对齐的人工智能能够让你从 Amazon Prime 订购甲基苯丙胺实验室设备，并在你想要并请求时展示如何使用它。（同样，我认为人工智能在这里不会是限制因素。）Hotz 甚至表示他会为捍卫这一原则而死，尽管很难想象会导致这种情况的一系列事件。
“我们要么生活在一个有自由的世界，要么没有，”Hotz 写道。如果只有这两种选择，那个有自由的世界听起来确实更好！不过，我也不确定。
这不仅仅关乎自由，对吧？任何涉及大量人的结构（社会、市场、公司等）都需要平衡权益，将个人需求整合到一个相互依赖的偏好网络和问责体系中。任何部署大众市场科技产品的人都应该认真考虑这个整体网络，这意味着要严肃对待世界上那些尚未被谋杀的配偶和继父母的利益。
Hotz 所体验的自由，实际上是集体企业所开启的未来可能性空间；如果我们所有人都开始像一个个小型的、受人工智能驱动的拿破仑那样行事，这些未来就会在一夜之间消失。就像那张梗图所说的那样，我们生活在社会中。
不过，拥有一台愿意为了我的利益而与大公司抗衡的本地人工智能听起来还是很酷！我已经迫不及待想要评测样机了。