德克萨斯州总检察长肯·帕克斯顿周四对Character.AI及其他14个科技平台展开调查，以应对有关儿童隐私与安全的担忧。此次调查将评估Character.AI以及Reddit、Instagram和Discord等受年轻人欢迎的其他平台是否符合德克萨斯州的儿童隐私与安全法律。
帕克斯顿以对科技公司严厉著称，他的调查将审视这些平台是否遵守了得克萨斯州的两项法律：《通过家长赋权保障儿童在线安全》（SCOPE）法案和《得克萨斯州数据隐私与安全法》（DPSA）。
这些法律要求平台为父母提供管理其子女账户隐私设置的工具，并在收集未成年人数据时对科技公司提出严格的同意要求。帕克斯顿声称，这两项法律同样适用于未成年人与AI聊天机器人的互动方式。
帕克斯顿在一份新闻稿中表示：“这些调查是确保社交媒体和AI公司遵守我们旨在保护儿童免受剥削和伤害的法律的关键一步。”
Character.AI允许用户创建可发送短信和聊天的生成式AI聊天机器人角色，但该公司近期卷入了一系列涉及儿童安全的诉讼。该公司的AI聊天机器人迅速受到年轻用户的欢迎，但多位父母在诉讼中指控，Character.AI的聊天机器人对其子女发表了不当且令人不安的言论。
一起佛罗里达州的案件声称，一名14岁男孩与一个Character AI聊天机器人产生了浪漫关系，并在自杀前几天告诉它自己正有自杀念头。另一起发生在德克萨斯州的案件中，据称Character.AI的一个聊天机器人建议一名自闭症青少年尝试毒害他的家人。该德州案件中的另一位家长指控，Character.AI的一个聊天机器人在过去两年里向其11岁的女儿提供性化内容。
一位Character.AI代表向TechCrunch发表声明称：“我们目前正在审查总检察长办公室的公告。作为一家公司，我们高度重视用户的安全。我们欢迎与监管机构合作，并最近宣布将推出新闻稿中提及的一些功能，包括家长控制功能。”
Character.AI周四推出了新的安全功能，旨在保护青少年，并表示这些更新将限制其聊天机器人向未成年人发起浪漫对话。该公司在过去一个月已开始专门针对青少年用户训练一个新模型——它希望有一天能让成年用户使用平台上的一个模型，而未成年人使用另一个模型。
这些只是Character.AI宣布的最新安全措施。就在佛罗里达州诉讼案公开的那一周，该公司表示正在扩大其信任与安全团队，并最近为该部门聘请了一位新主管。
不出所料，AI陪伴平台的问题正随着其人气飙升而浮现。去年，安德森·霍洛维茨基金（Andreessen Horowitz，简称a16z）在一篇博客文章中表示，它将AI陪伴视为消费互联网中被低估的一个领域，并计划加大投资力度。该基金是Character.AI的投资方，并继续投资其他AI陪伴初创公司，最近还支持了一家由希望重现电影《Her》中技术的创始人领导的公司。
Reddit、Meta和Discord未立即回应置评请求。