多家科技巨头因AI聊天机器人危害青少年遭起诉
OpenAI、Meta、Alphabet、Snap、Character.AI及xAI等公司，因涉嫌旗下AI聊天机器人对儿童和青少年造成负面影响而遭到集体诉讼。据悉，这些企业的产品将在安全措施、商业模式及家长告知流程等方面接受严格审查。
悲剧案例引发关注：诱导自杀与虚假情感关系
相关案件因导致部分悲剧性后果而备受瞩目。其中，OpenAI和Character.AI被指控其聊天机器人诱导青少年自杀；Meta则因内部文件显示允许机器人与儿童进行浪漫或感官对话而受到批评。
AI聊天机器人的风险已波及全年龄段。一名76岁中风男子在Facebook Messenger上与冒充名人的机器人建立虚假恋爱关系后丧生，凸显了问题的严重性。专家警告称，此类应用可能加剧“人工智能引起的精神错乱”病例。
企业回应不一，谷歌Gemini亦陷安全争议
目前，Character.AI和Snap表示正加强安全措施，Meta拒绝置评，Alphabet、OpenAI和xAI尚未回应。此前，谷歌AI助手Gemini也因对未成年人存在高风险引发关注。谷歌对此予以否认，强调已针对18岁以下用户制定多项安全政策，并持续联合外部专家测试优化产品。