Character.AI 于周二宣布推出“Stories”，这是一种允许用户创作以其喜爱角色为特色的互动小说的新格式。该功能的推出是对公司聊天机器人的替代方案，因为从本周起，18岁以下的用户将不再能够使用这些聊天机器人。
这一变化源于人们对全天候可用且能主动与用户发起对话的 AI 聊天机器人所带来的心理健康风险的日益担忧。针对 OpenAI 和 Character.AI 等公司的多起诉讼已提起，指控它们在用户自杀事件中扮演了不当角色。过去一个月来，Character.AI 一直在逐步限制未成年人的访问权限，截至周二，未成年人已完全无法与其 AI 角色进行聊天。
该公司在博客文章中称：“故事功能提供了一种引导式的方式来创作和探索虚构内容，以替代开放式聊天。它将与其他多模态功能一同提供，以便青少年可以在一个以安全为首要原则的环境中继续与他们喜爱的角色互动。”
近年来，互动小说的人气激增，因此 Character.AI 的这一转型合乎情理。但这可能不足以安抚那些对聊天机器人变得过度依赖的用户——这也正是 Character.AI 决定限制聊天机器人访问权限合理的原因所在。
在 Character.AI 的 Reddit 子版块上，用户反应不一。根据他们的评论，一些青少年表示虽然感到失望，但认为这最终是正确的举措。
一位自称是青少年的用户写道：“我对这项禁令感到非常愤怒，但同时也非常高兴，因为现在我可以做其他事情了，我的成瘾问题可能终于结束了。”
另一位用户说：“作为一个未满18岁的人，我觉得这令人失望。但这也是理所应当的，因为我这个年龄段的人很容易对此上瘾。”
青少年将如何使用“故事”功能仍有待观察，但这种形式在心理层面的争议性小于与聊天机器人进行角色扮演。与“故事”不同，聊天机器人通过开放式对话与用户直接互动，即使用户未主动使用该应用，它们也能发送未经请求的消息。
Character.AI 决定对聊天机器人访问实施年龄限制之际，加州最近成为首个监管 AI 伴侣的州。与此同时，参议员 Josh Hawley（R-MO）和 Richard Blumenthal（D-CT）已提出一项全国性法案，旨在彻底禁止未成年人使用 AI 伴侣。
Character.AI 首席执行官 Karandeep Anand 对 TechCrunch 表示：“我真的希望我们率先采取行动，为行业树立一个标准：对于未满18岁的用户，开放式聊天可能不是合适的路径或产品。”