《华尔街日报》的测试显示，Meta Platforms 旗下的社交应用程序对其算法认为可能对儿童有性兴趣的用户做了同样的事情。
《华尔街日报》试图确定 Instagram 的 Reels 算法会建议什么来测试仅关注年轻体操运动员、拉拉队队员以及活跃在该平台上的其他青少年和青春期前影响者的帐户。
Instagram 的系统向这些测试帐户提供了大量令人不快的色情内容，包括儿童的下流镜头以及公开的成人色情视频，以及一些美国最大品牌的广告。
《华尔街日报》观察到此类年轻人账户的数千名关注者通常包括大量成年男性，并且许多关注这些儿童的账户也表现出对与儿童和成人相关的性内容的兴趣，因此设立了测试账户。。《华尔街日报》还测试了该算法在其账户也关注了其中一些用户后会推荐什么，这产生了穿插广告的更令人不安的内容。
在 Instagram 推荐的一系列视频中，约会应用程序 Bumble 的广告出现在有人抚摸真人大小的乳胶娃娃脸的视频和一个脸被数字遮蔽的年轻女孩掀起衬衫暴露的视频之间。她的中腹部。在另一则必胜客广告中，一段视频显示一名男子躺在床上，手臂搂着一名 10 岁的女孩，标题称这是一名 10 岁的女孩。
梅塔表示，《华尔街日报》的测试产生了一种人造体验，并不代表数十亿用户所看到的。该公司拒绝评论为什么这些算法会编译显示儿童、性和广告的单独视频流，但一位发言人表示，该公司于 10 月份推出了新的品牌安全工具，使广告商可以更好地控制其广告出现的位置，并且 Instagram 要么删除或者每月降低 400 万个涉嫌违反其标准的视频的显着性。
《华尔街日报》6 月份报道称，拥有 Facebook 和 Instagram 的 Meta 运行的算法将大量对恋童癖内容感兴趣的用户社区联系起来。Meta 发言人表示，在《华尔街日报》发表文章后成立的一个特别工作组扩大了用于检测行为可疑用户的自动化系统，每月关闭数以万计的此类帐户。该公司还加入了一个新的行业联盟，以分享潜在的儿童剥削迹象。
在《华尔街日报》的测试中，其广告出现在不当内容旁边的公司包括迪士尼、沃尔玛、在线约会公司 Match Group、销售勃起功能障碍药物的 Hims 以及《华尔街日报》本身。大多数品牌零售商要求他们的广告不得与色情或露骨内容一起投放。
“我们的系统能够有效地减少有害内容，并且我们在安全、安保和品牌适宜性解决方案上投入了数十亿美元，”负责处理广告业关系的 Meta 副总裁萨曼莎·斯泰森 (Samantha Stetson) 说。她表示，Instagram 上不当内容的发生率很低，公司投入巨资来减少这种内容。
《华尔街日报》联系了在测试中广告出现在不当视频旁边的公司后，一些人表示 Meta 告诉他们正在调查并将支付外部公司的品牌安全审计费用。
在 Meta 对其投诉的回应不令人满意后，Match 从 10 月份开始取消为其部分应用程序（例如 Tinder）提供的 Meta 广告。此后，它停止了所有 Reels 广告，并停止在 Meta 的任何平台上推广其主要品牌。Match 发言人贾斯汀·萨科 (Justine Sacco) 表示：“我们不想付费给 Meta 来向掠夺者推销我们的品牌，也不想将我们的广告放置在此类内容附近。”
Bumble 发言人罗比·麦凯 (Robbie McKay) 表示，该公司“绝不会故意在不当内容旁边做广告”，并且该公司正在暂停在 Meta 平台上投放广告。
迪士尼品牌管理副总裁查理·凯恩 (Charlie Cain) 表示，该公司对可接受的广告社交媒体内容设定了严格限制，并敦促 Meta 和其他平台改善品牌安全功能。公司发言人表示，自从《华尔街日报》向迪士尼提交调查结果以来，该公司一直致力于在“Meta 最高层”解决这一问题。
沃尔玛拒绝置评，必胜客也没有回应置评请求。
Hims 表示将敦促 Meta 阻止此类广告投放，并认为 Meta 致力于解决该问题的承诺令人鼓舞。
《华尔街日报》表示，其广告出现在一段明显成人性行为的视频旁边，令人震惊，并要求 Meta 采取行动。
Meta 创建了 Reels 来与 TikTok 竞争，TikTok 是北京字节跳动旗下的视频共享平台。这两种产品都会向用户不间断地播放其他人发布的视频，并通过在其中插入广告来赚钱。两家公司的算法都会根据用户过去的观看行为，向用户显示平台计算出的最有可能保持用户参与度的视频。
《华尔街日报》记者以成年人的身份在新购买的设备上设置了 Instagram 测试帐户，并跟踪了体操运动员、拉拉队队员和其他年轻影响者。测试显示，仅关注年轻女孩就会触发 Instagram 开始提供来自宣传成人性内容的账户的视频以及主要消费品牌的广告，例如沃尔玛的一个广告，该广告在一段女性暴露胯部的视频后投放。
当测试帐户跟踪一些关注这些年轻人帐户的用户时，他们产生了更令人不安的推荐。该平台混合了成人色情内容和儿童色情内容，例如一个穿着衣服的女孩爱抚她的躯干的视频和另一个孩子模仿性行为的视频。
算法推荐系统专家表示，《华尔街日报》的测试表明，虽然体操似乎是一个无害的话题，但 Meta 的行为跟踪发现，一些关注青春期前女孩的 Instagram 用户会想要观看有关儿童的色情视频，然后将此类内容定向给她们。
加州大学伯克利分校人类兼容人工智能中心的高级科学家乔纳森·斯特雷（Jonathan Stray）表示：“利基内容比一般兴趣内容提供了更强的信号。”
Meta 现任和前任员工在采访中表示，Instagram 算法倾向于聚合整个平台上的儿童色情内容，这在内部是一个问题。他们表示，一旦 Instagram 将用户归类为对任何特定主题感兴趣，其推荐系统就会经过训练，向他们推送更多相关内容。
他们表示，为了防止系统向感兴趣的用户推送有害内容，需要对推荐算法进行重大改变，同时也能提高普通用户的参与度。《华尔街日报》查阅的公司文件显示，该公司的安全人员被广泛禁止对平台进行任何可能减少每日活跃用户数量的更改。
测试帐户显示广告定期添加到有问题的 Reels 流中。鼓励用户去迪士尼乐园度假的广告旁边是一段视频，视频中一名成年人与她的父亲发生性关系，另一则视频中一名穿着内衣的年轻女子嘴里滴着假血。在一段视频描绘了一名明显痛苦的女性在性行为中的视频后不久，希姆斯的广告就播出了，并附上了所谓的“完整视频”的链接。
部分问题在于，自动执行系统解析视频内容比解析文本或静态图像更困难。另一个困难来自于 Reels 的工作原理：Reels 不像 Instagram 和 Facebook 的其他部分通常那样显示用户朋友分享的内容，而是宣传用户不关注的来源的视频。
据两名前员工称，在推出 Reels 前不久进行的一项分析中，Meta 的安全人员指出了该产品将儿童视频和不当内容链接在一起的风险。Meta 的前青年政策负责人 Vaishnavi J 将安全审查的建议描述为：“要么我们加强内容检测能力，要么我们不推荐任何次要内容”，即任何儿童视频。
当时，TikTok 发展迅速，吸引了 Instagram 年轻用户和针对他们的广告商的注意。据 J. Meta 称，当时 Meta 没有采纳任何一项安全分析建议。
Meta 与数字广告买家的联络人 Stetson 质疑 Meta 在产品推出前忽视了儿童安全问题。“我们对 Reels 进行了近一年的测试，然后广泛发布，并采取了一套强有力的安全控制和措施，”她说。
视频共享平台对社交媒体公司很有吸引力，因为视频往往比文本或静态照片更能吸引用户的注意力，这对广告商来说很有吸引力。
社交媒体平台和数字广告公司经常将不恰当的广告投放描述为不幸的错误。但《华尔街日报》和加拿大儿童保护中心运行的测试账户表明，Meta 的平台似乎针对对性感兴趣的用户进行一些数字营销。
《华尔街日报》测试账户中经常出现的广告包括“约会”应用程序和以成人裸体为特色的直播平台、提供“幸福结局”的按摩院以及为网络性爱而构建的人工智能聊天机器人。Meta 的规则应该禁止此类广告。
《华尔街日报》于 8 月份向 Meta 通报了其测试结果。此后的几个月里，《华尔街日报》和加拿大儿童保护中心的测试表明，该平台继续提供一系列以幼儿、成人内容和其他地方托管的儿童性内容为主题的视频。
截至 11 月中旬，该中心表示 Instagram 正在继续稳步推荐该非营利组织所称的“成人和儿童摆出性感姿势”。
在《华尔街日报》开始就广告投放事宜与广告商联系并且这些公司提出问题后，Meta 告诉他们正在调查此事，并将支付品牌安全审核服务费用，以确定一家公司的广告出现在其认为不可接受的内容旁边的频率。
Meta 尚未提供解决该问题的时间表，也没有解释未来将如何限制推广涉及儿童的不当内容。
《华尔街日报》的测试账户发现，该问题甚至影响到了 Meta 相关品牌。该公司的 WhatsApp 加密聊天服务和 Meta 的 Ray-Ban Stories 眼镜的广告出现在成人色情内容旁边。由前 Meta 首席运营官谢丽尔·桑德伯格 (Sheryl Sandberg) 运营的年轻女性赋权非营利组织 Lean In Girls 的一则广告直接在一位经常穿着女学生服装的成人色情内容创作者的促销活动之前投放。桑德伯格拒绝发表评论。
通过自己的测试，加拿大儿童保护中心得出结论，Instagram 定期提供穿着衣服的儿童的视频和照片，这些儿童也出现在国家失踪和受虐儿童中心的数字数据库中，该数据库中的图像和视频被确认为虐待儿童的性材料。该组织表示，虐待儿童者经常使用女孩的图像在暗网论坛上宣传非法内容并出售。
加拿大中心执行主任莉安娜·麦克唐纳 (Lianna McDonald) 表示，这些内容的本质是对儿童进行性化，但通常不会表现出裸体，这反映了社交媒体改变了网上儿童性虐待的方式。该组织对 Meta 的算法本质上招募致力于儿童性虐待的在线社区新成员的能力表示担忧，这些社区中更多私人论坛中非法内容的链接激增。
麦克唐纳说：“我们一次又一次地看到推荐算法促使用户发现这些在线儿童剥削社区，然后螺旋式上升。”他称大公司的广告补贴这一过程令人不安。