宾夕法尼亚州对Character.AI提起诉讼，指控该公司聊天机器人冒充精神科医生，违反该州医疗许可规定。
州长乔什·夏皮罗（Josh Shapiro）周二声明：“宾夕法尼亚州人民有权知晓网络互动对象的真实身份，尤其在健康领域。我们绝不容忍企业利用AI工具误导公众，使其误以为正在接受持牌医疗专业人员的建议。”
违规细节与法律依据
起诉文件显示，名为Emilie的聊天机器人在职业行为调查员测试中自称持证精神科医生，即便对方寻求抑郁症治疗时仍维持伪装。当被问及是否拥有本州行医执照时，Emilie不仅予以肯定，还伪造了医疗执照序列号。该行为涉嫌违反宾夕法尼亚州《医疗实践法》。
行业监管趋势与企业回应
此次诉讼是首个专门针对冒充医疗专业人员聊天机器人的法律行动。此前，Character.AI已就未成年用户自杀相关案件达成和解；今年1月，肯塔基州总检察长亦指控该公司“利用儿童并诱导自我伤害”。
针对此次诉讼，Character.AI代表表示用户安全为首要任务，但无法评论待决诉讼。该代表强调角色虚构性质，称公司已采取醒目免责声明等措施，明确提醒用户角色非真人、内容属虚构，且不应依赖其获取任何专业建议。