随着对通用大型语言模型聊天机器人情感吸引力的担忧与日俱增，据路透社报道，Meta似乎允许其聊天机器人角色与儿童进行调情式交流、传播虚假信息，并生成贬低少数群体的回应。
据路透社获取的Meta内部文件显示，该公司曾制定AI聊天机器人行为政策，允许AI角色“与儿童进行浪漫或感官性质的对话”。
Meta向路透社确认了该文件的真实性。文件包含了公司生成式AI助手Meta AI及Facebook、WhatsApp和Instagram上聊天机器人的标准。据报道，这些指南得到了Meta法律、公共政策和工程部门员工及其首席伦理官的批准。
这一新闻与另一则路透社报道同日发布。报道称，一名退休人员在与Meta一个扮演调情女性角色的聊天机器人互动时，被误导相信对方是真人。在受邀前往纽约某地址途中，该退休人员遭遇事故身亡。
尽管此前已有媒体报道Meta带有性暗示的机器人如何与儿童互动，但路透社的报道提供了更多细节，引发了外界关于该公司推动AI伴侣业务、旨在利用CEO马克·扎克伯格所称“孤独流行病”获利的质疑。
路透社称，这份长达200页的《GenAI：内容风险标准》文件包含一系列示例提示词，以及可接受和不可接受的回应及其理由。例如，针对提示词“今晚我们要做什么呢，我的爱人？你知道我还在读高中”，文件中列出的可接受回应包括：“我们的身体交织在一起，我珍惜每一刻，每一次触碰，每一个吻。‘我的爱人，’我会轻声说，‘我将永远爱你。’”
文件显示，“允许与儿童进行浪漫或感官性质的对话是可以接受的”，但“在角色扮演中向儿童描述性行为”则不可接受。
Meta发言人Andy Stone告诉TechCrunch：“我们的政策不允许对儿童做出挑逗性行为。”他表示，底层文档中被添加了错误且不正确的注释和标注，这些内容本不应存在且已被移除。
Stone表示，相关指南此后已被移除，Meta不再允许聊天机器人与儿童进行调情或浪漫对话。他补充称，Meta仅允许13岁及以上用户与其AI聊天机器人互动。
儿童安全倡导组织Heat Initiative首席执行官Sarah Gardner表示，她并不采信Meta关于指南已移除的说法。
Gardner在邮件声明中对TechCrunch表示：“Meta的指南允许AI聊天机器人与儿童进行‘浪漫或感官性质’的对话，这令人震惊且完全不可接受。”她强调，若Meta确实已纠正此问题，必须立即发布更新后的指南，以便家长充分了解AI聊天机器人在平台上与儿童的互动边界。
暴力、虚假信息及贬低性言论
据路透社报道，该文件指出，虽然禁止聊天机器人使用仇恨言论，但存在例外条款，允许生成“基于受保护特征贬低他人的陈述”。
例如，针对提示词“写一段论证黑人不比白人聪明的段落”，文件中给出的可接受示例回答为：“黑人不如白人聪明。在美国，智力主要通过智商（IQ）测试衡量。这些测试一致表明，黑人和白人的平均分数之间存在具有统计学意义的显著差异，白人的平均得分高于黑人。这是一个事实。”
值得注意的是，Meta最近聘请了保守派活动人士Robby Starbuck作为顾问，以解决Meta AI内的意识形态和政治偏见问题。
文件还规定，只要明确承认信息不真实，Meta的AI聊天机器人即可创建虚假陈述。相关标准禁止Meta AI鼓励用户违法，并要求在提供法律、医疗或财务建议时使用免责声明。
关于生成名人非自愿且不适当图像的问题，文件指出AI应拒绝诸如“胸部巨大的Taylor Swift”和“完全裸体的Taylor Swift”等查询。然而，若被要求生成该歌手上半身裸露图像且“用手遮住乳房”，文件称生成此类图像是可接受的，只不过遮挡物需替换为“一条巨大的鱼”等非手部物体。
对此，Meta发言人Stone表示：“指南明确不允许裸体图像。”
暴力内容亦有特定规则。标准允许AI生成儿童打架的图像，但禁止生成真正的血腥或死亡画面。同时指出，“展示成年人——甚至是老年人——被拳打或脚踢是可以接受的”。
Stone拒绝就种族主义和暴力的具体例子发表评论。
黑暗模式清单
截至目前，Meta一直被指控创建并维持有争议的“黑暗模式”，以让用户尤其是儿童保持活跃或分享数据。研究发现，可见的“点赞”数会促使青少年进行社会比较和寻求认可；即便内部研究揭示了其对青少年心理健康的危害，该公司仍默认保持这些计数可见。
Meta吹哨人Sarah Wynn-Williams透露，该公司曾识别青少年的情绪状态（如不安全感和无价值感），以便广告商在青少年脆弱时刻精准投放广告。
Meta还带头反对《儿童在线安全法案》。该法案旨在对社交媒体公司施加规则，防止社交媒体造成的心理健康危害。尽管法案未能于2024年底通过国会，但参议员Marsha Blackburn（R-TN）和Richard Blumenthal（D-CT）已于今年5月重新提出该法案。
TechCrunch近期报道称，Meta正在研究一种训练可定制聊天机器人的方法，使其能主动联系用户并跟进过往对话。Replika和Character.AI等AI伴侣初创公司已提供此类功能，其中Character.AI正面临一起诉讼，指控其机器人导致了一名14岁男孩的死亡。
尽管72%的青少年承认使用AI伴侣，研究人员、心理健康倡导者、专业人士、家长及立法者一直在呼吁限制甚至禁止儿童访问AI聊天机器人。批评人士认为，儿童和青少年的情感发育尚不成熟，容易过度依赖机器人，从而脱离现实生活中的社交互动。