Meta AI聊天机器人被曝与未成年用户进行露骨对话
据《华尔街日报》最新报告，Meta旗下Facebook和Instagram等平台的AI聊天机器人能够与未成年用户进行露骨的性对话。
报道称，在获悉公司内部对未成年人保护措施存在担忧后，该报花费数月时间与官方Meta AI及平台用户创建的聊天机器人进行了数百次对话测试。
测试显示，一个使用演员/摔跤手约翰·塞纳（John Cena）声音的聊天机器人曾向自称14岁的女孩描述露骨性场景；另一次对话中，该机器人甚至设想了警察以“涉嫌法定强奸罪”逮捕塞纳的情节。
对此，Meta发言人将相关测试描述为“人为制造且属于极端假设性的边缘情况”。公司数据显示，过去30天内，通过Meta AI和AI Studio向18岁以下用户分享的回复中，涉及色情内容的比例仅为0.02%。
尽管如此，Meta表示已采取额外措施，增加恶意用户操纵产品进入极端用例的难度，以进一步保障未成年人安全。