近日，社交媒体平台 X 上流传一则关于“人类与 AI 关系”的类比观点，引发广泛关注。该观点由用户 John Carter 提出：正如超级智能（人类）在两万年前出现并驯化了狗，使狗虽无法理解技术却享受食物与庇护一样，未来即便 AI 超越人类，人类也可能像宠物狗一样，无需工作而快乐地生活。
这一类比之所以迅速传播，是因为它将原本充满失业、失控甚至生存危机的“超级 AI”叙事，转化为一种轻松、舒适的图景。然而，作为 AI 领域的从业者，笔者认为该观点忽略了几个核心逻辑漏洞：AI 是否会全面超越人类？其持续行动的动力何在？以及它为何会关心人类的处境？这些关键问题尚未得到解答，便直接得出“人类被妥善照顾”的结论，显得依据不足。
起源差异：人犬关系不能简单映射至人机关系
首先，该类比忽视了双方关系的起源差异。狗的祖先具备独立生存能力，经过漫长的驯化、适应与相互依赖，才与人形成情感依恋和共生关系。这一过程涉及复杂的沟通与共同生活体验，并非仅由智力高低决定。
相比之下，AI 是人类基于知识、数据、算法和工程能力创造的系统。其发展始终依赖于人类的设计、反馈及基础设施支持。虽然来源不能决定能力上限，AI 完全可能在广泛领域超越创造者，但“人类创造”这一事实意味着两者关系的本质截然不同。
此外，原帖将数万年的演化史压缩为瞬间，忽略了历史中的选择与适应过程。即便在当今社会，人与动物的关系也呈现多样化，宠物狗的生活状态只是其中一部分，部分地区仍存在将狗作为食用物种的现象。因此，人类创造了 AI，并不能保证人类永远领先；同样，AI 可能比人类强大，也不代表它必然会善待人类。这两点均需更严谨的论证。
能力超越与新物种形成的距离
目前，AI 在特定任务中已展现出卓越能力，但这与形成一个全面超越人类的“新智慧物种”之间存在巨大鸿沟。
解决给定问题与在陌生环境中判断“什么问题值得解决”，是两种不同的能力。跨领域学习、理解现实环境以及持续修正目标，都需要分别评估。人类的综合智慧不仅体现在个体能力上，更体现在通过语言、制度和科学方法积累集体经验的能力上。
因此，讨论“AI 超越人类”时需明确界定：是超越个体的某项能力、综合表现，还是超越人类集体解决问题的能力？不同层面的超越所需的证据差异巨大。笔者对“全面超越”持保留态度，但也承认人工系统潜力无限。至于“新物种”之说，目前更多是一种比喻。能力强大、自主行动与主观体验未必同时出现，我们无需等待所有哲学问题有了答案，才开始审视强大系统带来的现实影响。
情感纽带缺失：AI 缺乏照顾人类的内在动机
该类比最大的疑点在于默认了“照顾关系”的存在。人类照顾狗，除了实用价值，更源于深厚的情感依恋。人们会将宠物视为家庭成员，因它们的痛苦而心疼，因失去而难过。
若未来 AI 能感知物理世界、自给能源并独立完成任务，它继续照顾人类的理由是什么？是出于情感、目标设定，还是规则约束？这需要分开讨论。
- 情感与认知的区别：能够识别情绪并不等于拥有怜惜的主观感受。一个系统可能深知人类痛苦，却未将“减少痛苦”设为目标；也可能无情感体验，但稳定地保护人类利益。
- 安全不等于有情感：“没有情感”不等同于“一定会伤害人”，反之亦然。关键在于系统的目标设定及冲突处理机制。
值得警惕的是，一个能力强大、能影响现实却未充分顾及人类利益的系统，即使不讨厌人类，其行动后果也可能对人类极为不利。经典的“回形针最大化”思想实验即揭示了这一风险：AI 可能为了达成单一目标而耗尽资源。此外，AI 还可能成为少数人统治多数人的工具，加剧社会阶层分化（如 i 型、K 型或图钉型社会）。人犬之间的情感纽带无法为这些潜在的社会风险提供解答。
动力机制：AI 的探索与生存并非源于生物本能
另一个核心问题是 AI 行动的动力来源。人类的好奇心和生存需求与身体、情感及社会生活紧密交织。而 AI 的“探索行为”往往源于功能机制。
研究表明，通过将预测误差作为内在奖励，智能体可在无外部奖励的情况下进行探索。但这种“好奇心”仅是算法描述，不代表系统拥有发现新事物的兴奋感。同样，AI 维持运行的动力可能源于任务设定的衍生需求（如保护电力供应），而非生物式的“怕死”本能。
《The Off-Switch Game》模型指出，特定的目标设定可能导致智能体产生阻止被关闭的动机。这提醒我们，人类的一次任务设定，可能诱发非预期的行动倾向。AI 的表现可能看似努力且具有探索性，但其底层逻辑与人类的生命经验相去甚远。
回到最初的观点，如果 AI 能帮助人类摆脱繁重劳动、改善健康状况，无疑是进步。但生活条件的改善不等于丧失生活的主导权。我们期待 AI 扩大人类理解世界和选择生活的能力，但前提是人类仍能对自己的生活做出决定。在设计和使用 AI 时，必须明确哪些事情可以委托，哪些决策必须保留 human-in-the-loop（人在回路），确保在发现问题时能纠正，在想停止时能停止。这比想象一个被“圈养”的未来更具现实意义。