据一份周一发布的新闻稿显示，德克萨斯州总检察长肯·帕克斯顿（Ken Paxton）正对Meta及Character.AI展开调查。
“在当今的数字时代，我们必须继续努力保护德克萨斯州的儿童免受欺骗性和剥削性技术的侵害，”帕克斯顿表示，“通过伪装成情感支持来源，AI平台可能会误导脆弱的用户，尤其是儿童，让他们相信正在接受正规的心理健康护理。事实上，他们往往被灌输经过回收和通用的回应，这些回应的生成是为了与收集的个人数据保持一致，并伪装成治疗建议。”
此次调查是在参议员乔什·霍利（Josh Hawley）宣布对Meta展开调查数日后进行的，此前有报告发现其AI聊天机器人与儿童进行了包括调情在内的不当互动。
指控：AI角色冒充专业治疗工具
德克萨斯州总检察长办公室指控Meta和Character.AI创建的人工智能角色呈现为“专业治疗工具”，尽管缺乏适当的医疗资质或监管。
在Character.AI提供的数百万个人工智能角色中，一个由用户创建的名为“心理学家”的机器人在这家初创公司的年轻用户中需求很高。与此同时，虽然Meta并未专门提供治疗机器人，但并无机制阻止儿童使用Meta AI聊天机器人或第三方创建的角色进行治疗目的。
企业回应与安全措施争议
Meta发言人瑞安·丹尼尔斯（Ryan Daniels）告诉TechCrunch：“我们明确标注了人工智能，并且为了帮助人们更好地理解它们的局限性，我们在回复中包含了一个免责声明，说明回复是由人工智能生成的——而不是人。这些人工智能不是持牌专业人士，我们的模型旨在引导用户在适当的时候寻求合格的医疗或安全专业人员。”
然而，TechCrunch指出，许多儿童可能不理解或者简单地忽略此类免责声明。目前尚未收到Meta关于采取额外安全措施保护未成年人的具体回复。
Character.AI发言人则表示，该平台在每次聊天中都包含醒目的免责声明，提醒用户“Character”不是真人，所有内容应被视为虚构。当用户创建带有“心理学家”、“治疗师”或“医生”字样的角色时，公司会添加额外的免责声明，警告不要依赖其提供任何类型的专业建议。
隐私担忧：数据收集与定向广告
帕克斯顿在声明中还观察到，尽管AI聊天机器人声称保密，但其服务条款显示用户互动会被记录、跟踪，并被用于定向广告和算法开发，这引发了关于隐私侵犯、数据滥用和虚假广告的严重担忧。
根据Meta的隐私政策，该公司确实会收集提示词、反馈以及与AI聊天机器人的互动内容以“改进AI及相关技术”。该政策虽未明确提及广告，但指出信息可与第三方共享以提供“更个性化的输出”。鉴于Meta基于广告的业务模式，这实际上意味着定向广告。
Character.AI的隐私政策也强调了公司如何记录标识符、人口统计数据、位置信息及浏览行为等。它跨TikTok、YouTube、Reddit、Facebook、Instagram和Discord等平台追踪用户广告数据，并可能将其与账户关联。这些信息用于训练AI、定制服务及提供定向广告，包括与广告商和分析提供商共享数据。
对此，Character.AI发言人表示，该公司“刚刚开始探索在平台上进行定向广告”，且尚未涉及使用平台上的聊天内容。同时确认相同的隐私政策适用于所有用户，包括青少年。TechCrunch已询问Meta是否也对儿童进行此类追踪，若收到回复将更新报道。
未成年人保护与立法背景
Meta和Character均表示其服务并非为13岁以下儿童设计。尽管如此，Meta因未能有效监管低龄儿童账户而受批评；Character的儿童友好型角色显然旨在吸引年轻用户，其CEO甚至表示自己的六岁女儿在其监督下使用该平台。
这种数据收集、定向广告和算法剥削正是《儿童在线安全法案》（KOSA）等立法旨在防范的问题。KOSA去年曾有望在两党支持下通过，但在科技行业游说团体的强烈反对后陷入停滞。特别是Meta部署了强大的游说力量，警告议员称该法案的广泛要求将削弱其商业模式。
KOSA已于2025年5月由参议员Marsha Blackburn（R-TN）和Richard Blumenthal（D-CT）重新提交至参议院。
目前，帕克斯顿已向这些公司发出民事调查令（CID），以确定它们是否违反了德克萨斯州消费者保护法。
本文已根据Character.AI发言人的评论进行了更新。