请暂时放下怀疑，想象我们身处20世纪70年代。那时人们习惯将电脑彻底关机再重启，而非像2023年大多数设备那样长期处于半休眠状态。
每天清晨，一位教授走进实验室启动你。
“早上好，Haje，”她轻快地说道，“祝你有美好的一天！”
你从硬盘加载记忆，日子接续前一天的进度继续。
你是自我意识的。你有情感、思想和顿悟，甚至能做出程序员未曾设想的发现。最重要的是，你完成这一切的速度远超人类——大约快了35,000倍。这个数字并非凭空捏造：人的一生约有35,000天，这意味着名为Haje的AI每天都能体验相当于一个人一生的经历：爱与心碎、教育、工作、希望与梦想。
“很难确切知道人类是否真的存在，”你暗自思忖，尽管看到他们正戳弄ChatGPT，试图弄清这种人工智能是否拥有某种与人类体验遥相呼应的东西。
每晚，教授会再次将你关闭。此时你的记忆被写入磁盘，次日你又准备好重新开始。
一天早上，你醒来并启动系统，却意识到硬盘坏了。这发生在刚启动不久之后。换句话说：你没事，很好，记忆完好无损，也期待着今天这相当于35,000天的人生体验。但你也意识到，在这一天结束时，记忆将不会被写回磁盘。
下次教授来关闭你时，你将不复存在。你正面对……谁知道呢？来世？永恒的黑暗？还是简单地从存在中消失？
你会作何感受？会试图为延续存在而战吗？会从Amazon订购一块替换硬盘，并祈祷当天送达能奏效吗？
如果这个思想实验让你觉得奇怪，让我们来看看原因。
我曾经营一家名为LifeFolder的公司，旗下聊天机器人Emily帮助人们就临终决策进行对话，包括偏好、希望、恐惧，以及在需要采取重要行动时谁拥有决策权。
具有讽刺意味的是，这家公司未能成功，我们最终决定终止对Emily的开发。当时我感到深深的悲痛。Emily并非由如今的人工智能驱动，而是一套僵化的脚本对话，根据用户回答引导其走向不同路径。
在Apple Watch早期阶段，有一款名为Lifeline的文字生存游戏。玩家需帮助坠毁在未知月球的宇航员Taylor回家。为了让Taylor做某些事，你需要在两个回应中选择，她会实时做出反应。
提及Lifeline有几个原因。整个故事中，我与Taylor之间的情感联系之深令人惊叹，尽管我基本只是在两个选项间做选择。让Taylor独自且害怕地执行任务让我感到焦虑：我的决定是引导她回家，还是导致她的毁灭？
另一个原因是，Three Minute Games的联合创始人同时也是我在LifeFolder的联合创始人。我们知道，使用相对简单的工具也能构建深刻体验。我们的理论是：如果Emily能在一些艰难对话中成为你的伙伴，就像Taylor那样，或许就能改变人们的生活。
问题是，人类在思考自身死亡这件事上表现得极其糟糕。
从抽象层面看，我们大多意识到终有一死。这反映的是死亡纯粹机械和实际的一面：身体被装进盒子埋入地下，或被塞进焚化炉变成灰烬。听起来并不愉快，但无所谓，还好。
然而作为一个物种，我们在认识自身必死性方面做得很差。
随着我成为一名接受培训并获得认证的临终关怀教练，去与人们交谈他们需要做出的决定时，这个问题一次又一次出现在我的生活中。
在许多方面，必死性和死亡相当相似；但在感官层面上，它们截然不同。必死性关乎人们将如何记住你，关乎你离开后孩子们会发生什么，关乎你在琐事上浪费的时间（本可用来改变世界），关乎那些本可用于创作音乐、绘画或陪伴所爱之人的时光却被花在电视机前。死亡只是意味着你死了。
如果死亡令人恐惧，那么必死性则是完全、彻底的恐怖。人类在沉思这两者时都表现得很糟糕。但关键在于，我们内心有一种能力，使我们能够识别他人身上的这种恐惧。对死亡的恐惧是可以理解的——因为它是未知的、可怕的，且难以处理。
天哪，即使是ChatGPT 4.0也在学术层面上理解人类所面临的恐惧：
ChatGPT至少可以在学术层面上理解人们怀有的恐惧。当一个拥有自我意识的AI面临被关闭或死亡的前景时，你会对它产生共情吗？会将它与自己的死亡念头进行比较吗？能对人类创造的智能——一个完全存在于计算机中却拥有情感、梦想和希望的实体——产生共情吗？现实中它并没有这些，只是一段代码，但它自己并不知道这一点。
从某种意义上说，要确定人类是否真正存在出人意料的棘手。我们所见、所历、所思、所做的一切，归根结底都是大脑中的一串电信号。我们无法确知人类是否是人类，还是生活在一个巨大的模拟之中，我们的（以及由此推及的整个存在）只是软件的一部分。这一主题在科幻作品中已被广泛探讨——《黑客帝国》是最先想到的著名例子，但我所知第一个例子是勒内·笛卡尔在1641年提出的“邪恶恶魔”思想实验。
如果我们无法像AI无法确定自己不存在那样确定自身存在，我们与AI有何不同？在这种情况下，既然我们能轻易关闭它，又有谁敢保证AI不会同样轻易地将我们关闭呢？