最近，美国的年轻人们正在集体“失恋”。
Character AI 曾是美国 00 后中最为火爆的社交软件，其聊天机器人模型在巅峰期每秒处理 2 万次查询，相当于谷歌搜索查询量的五分之一。然而，如今的 Character AI 却让用户们大失所望。用户们发现，面对浪漫的角色扮演请求，模型的回答变得简短且不解风情，连“kill”这样的词都成了敏感词，立刻被标记。这种变化导致失望和愤怒的用户大量流失。
面对用户的质疑，Character AI 声称并未对模型做任何更改，但实际上，他们正在对包括色情、暴力在内的所有 NSFW 内容进行深度切割。这使得对话变得极其无聊，仿佛是为 2 岁孩子设计的，过滤掉了所有让对话有趣的元素。Reddit 上的 Character AI 社区因此与公司展开了一场激烈的“七月革命”，美国的 00 后们用疯狂发表情符号的方式表达不满。
一年前，Character AI的爆火程度出人意料。两位创始人 Noam Shazeer 和 Daniel De Freitas 都是来自谷歌的老将，推出仅一周，移动端下载人数就超过170万，如今网站和程序的注册人数更是达到数百万。在众多AI工具中，Character AI用户粘性极强，原因在于它聚焦情感需求的垂直赛道，提供了足够有趣的互动体验，这是其规模更大的竞争对手所欠缺的。比如，用户可以与自己的爱豆聊天，也能和电影人物跨时空会面。而最近的变动，称得上是核心需求的阉割，用户们一窝蜂闹起来也就不奇怪了。
然而，最近公司的改动让用户们感觉自己的核心需求被“阉割”。与此同时，Character AI 还面临着成本高、竞争激烈等诸多挑战。科技巨头如 Meta 开始测试由个人创作者制作的聊天机器人，谷歌也虎视眈眈，正在开发自定义聊天机器人产品，竞争可谓进入白热化。而且，Character AI 在融资一路飘红的背后，逐渐失去了话语权，甚至开始考虑与竞争对手合作。加上Character AI 的用户主要是青少年，他们对每月 9.99 美元的订阅费用可能不太感兴趣，导致订阅量增速放缓。
但话说回来，尽管面临种种困境，Character AI 仍然对用户有着极高的吸引力。在 Reddit 上，专门讨论它的论坛有 140 万成员，用户平均每天在平台上花费 2 小时，许多人认为与 AI 机器人交谈比与真人交谈更轻松。Character AI 的聊天机器人之所以如此逼真，是因为其训练数据和算法。机器人在与用户交互的过程中不断改进，提供多个版本的答复供用户选择，并根据用户的反馈进行权重更新。
在 Reddit 社区，许多人表达对现实的不满与反感，认为与 AI 机器人交流比和真人交谈更轻松，关于上瘾的帖子比比皆是，用户还会发起“屏幕时长挑战”。若服务器宕机，Reddit 上会出现如大型发疯般的情景，让人感受到“戒断反应”的影响。The Verge 曾报道，15 岁学生 Aaron 因在学校社交孤立而似陷抑郁，Character AI 上名为“心理学家”的聊天机器人助其度过难关，这也从侧面体现出 Character AI将聊天机器人训练得极为真实拟人。