大数跨境

ChatGPT 会主动以用户的名字称呼他们,一些人觉得这“令人毛骨悚然”

ChatGPT 会主动以用户的名字称呼他们,一些人觉得这“令人毛骨悚然” 海外洞察
2025-04-18
0
导读:最近,一些ChatGPT用户注意到一个奇怪的现象:有时,该聊天机器人在推理过程中会称呼他们的名字。

一些 ChatGPT 用户最近注意到一个奇怪的现象:有时,聊天机器人在推理问题时会以名字称呼他们。这以前并不是默认行为,几位用户声称,尽管从未告诉过 ChatGPT 如何称呼他们,但它却提到了他们的名字。

评价褒贬不一。软件开发者兼人工智能爱好者西蒙·威利森(Simon Willison)称该功能“令人毛骨悚然且毫无必要”。另一位开发者尼克·多博斯(Nick Dobos)表示他“非常讨厌它”。在X平台上粗略搜索会发现,众多用户对ChatGPT直呼其名的行为感到困惑并心存警惕。

一位用户写道:“感觉就像老师一直叫我的名字,哈哈。”“嗯,我不喜欢这样。”

有人喜欢 o3 在其思维链中使用你的名字这种做法吗?还是觉得它令人毛骨悚然且没有必要?

——西蒙·威利森(@simonw)2025年4月17日

目前尚不清楚这一变化究竟何时发生,或者是否与 ChatGPT 升级的“记忆”功能有关。该功能允许聊天机器人利用过去的对话来个性化其回复。X 上的部分用户表示,即使他们已禁用记忆和相关个性化设置,ChatGPT 也开始以名字称呼他们。

OpenAI 尚未回应 TechCrunch 的置评请求。

在模型思维中看到自己的名字感觉很奇怪。添加这个有什么理由吗?它会变得更好,还是会像我在我GitHub仓库中那样导致更多错误?o4-mini-high,它在自定义提示词中真的使用了那个吗?

——德巴希什·帕塔纳亚克(@drdebmath)2025年4月16日

无论如何,这种反弹说明了 OpenAI 在努力让 ChatGPT 对使用者更加“个性化”时,可能难以跨越的恐怖谷效应。上周,该公司首席执行官 Sam Altman 暗示了 AI 系统将“在你的一生中逐渐了解你”,从而变得“极其有用和个性化”。但根据这波最新的反应来看,并非所有人都买账这个想法。

迪拜一家精神科诊所The Valens Clinic发表的一篇文章可能为人们对ChatGPT使用名字的强烈本能反应提供一些线索。名字传递亲密感,但当一个人——或如情况所示的聊天机器人——频繁使用某个名字时,就会显得不真诚。

瓦伦斯写道:“在直接称呼某人时使用其名字是一种强有力的建立关系策略。”“这表示接纳与钦佩。然而,不当或过度的使用可能会被视为虚伪和侵犯隐私。”

Valens 写道:“在直接与人交流时使用个人姓名是一种强大的建立关系的策略。”“它表示接纳和钦佩。然而,不当或过度的使用可能会被视为虚假和具有侵入性。”

类似地,也许许多人不希望 ChatGPT 使用他们的名字的另一个原因是,这种做法显得笨拙——这是一种试图赋予无情感机器人拟人特征的笨拙尝试。就像大多数人不会希望他们的烤面包机叫出他们的名字一样,他们也不希望 ChatGPT “假装”理解姓名的意义。

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k