Meta周四宣布在Instagram测试新功能，旨在保护年轻人免受非自愿裸露或性勒索骗局侵害。其中包括“DM中的裸露内容保护”功能，可自动模糊检测到的裸露图像。
该科技巨头还将发送警告提醒青少年在分享亲密照片时三思而后行，以增强对骗子的防范。这些骗子常通过发送裸照诱骗受害者回传照片。
此外，Meta正实施变更使诈骗者和罪犯更难找到并与青少年互动。公司正在开发新技术识别可能参与性勒索的账户，并限制其与其他用户的互动方式。
另一项举措是增加与跨平台在线儿童安全项目Lantern共享的数据量，纳入更多针对性勒索的信号。
尽管Meta长期禁止发送不想要的裸照或胁迫他人分享亲密图像，但问题仍频发并给无数青少年带来痛苦，甚至导致悲惨后果。
以下为最新变更详情：
裸露内容拦截屏幕
“DM中的裸露内容保护”通过将裸图置于安全屏幕后，保护青少年免受网络闪光（未经同意发送裸照）侵害，用户可选择是否查看。
Meta表示：“我们会显示消息鼓励用户不要感到回复压力，并提供屏蔽发送者和举报聊天的选项。”
全球18岁以下用户的裸露内容安全屏幕将默认开启；年长用户将收到开启通知。
该公司补充道：“开启保护后，发送裸露图像者将收到谨慎发送敏感照片的提醒，并可撤回照片。”任何试图转发裸图者也将看到相同警告。
该功能由设备端机器学习支持，因图像分析在用户设备上进行，故可在端到端加密聊天中正常工作。此过滤器开发已近两年。
安全提示
作为额外保护措施，发送或接收裸图的用户将被引导至专家指导开发的安全提示页面，了解潜在风险。
声明指出：“提示包括提醒人们图片可能被截图或转发、双方关系未来可能变化，以及应仔细核实对方身份。”同时提供适用于18岁以上人群的StopNCII.org及适用于18岁以下人群的Take It Down等资源链接。
公司还在测试向可能与已被删除的勒索色情账户互动过的用户显示弹出消息，并引导至相关资源。
Meta表示：“我们将全球儿童安全热线添加到应用内举报流程中。当青少年报告裸露、威胁分享私密图片或性剥削等问题时，将尽可能引导至当地儿童安全热线。”
用于识别勒索色情行为者的技术
虽然Meta知晓后会封禁性勒索者账户，但需先识别不良行为者。公司正开发技术基于一系列信号识别潜在性勒索诈骗账户。
声明称：“虽这些信号不一定是违规充分证据，但我们采取预防措施防止此类账户找到并与青少年互动。”这建立在已有防止可疑账户接触青少年的工作基础上。
目前尚不清楚具体技术及信号指标，推测可能分析通信模式。被标记为潜在勒索色情行为者的账户将面临发消息或互动权限限制。
该公司写道：“潜在勒索色情账户的消息请求将直接进入收件人隐藏文件夹，不会触发通知也无需查看。”已与潜在诈骗或性勒索账户聊天的用户不会被关闭聊天，但会看到安全通知，鼓励报告威胁并提醒可拒绝不适要求。
青少年已受保护不收未建立联系成年人私信（部分情况也不收其他青少年私信）。Meta更进一步：测试对潜在勒索色情账户隐藏青少年资料上的“发消息”按钮，即使双方已建立联系。
补充道：“我们还测试将这些账户从他人的关注者、关注列表和点赞列表中隐藏，并使其更难搜索到青少年账户。”
值得注意的是，因Instagram儿童安全风险，Meta在欧洲面临日益严格审查。自去年夏天欧盟《数字服务法》（DSA）生效以来，执法机构一直质疑其做法。
迈向安全的漫长缓慢进程
Meta此前已采取措施打击性勒索，如2月扩大第三方工具“Take It Down”访问权限。该工具允许用户在本地生成亲密图像哈希值并与国家失踪与受虐儿童中心共享，建立非自愿图像哈希库供企业搜索删除复仇色情内容。
此前解决方法因要求年轻人上传裸照受批评。在缺乏严格法律规范下，Meta多年自我监管效果参差不齐。
近年来英国《儿童代码》（2021年生效）及欧盟DSA等要求落实，科技巨头终于更重视未成年人保护。
例如2021年7月英国合规截止前，Meta默认将年轻人Instagram账户设为私密；2022年11月进一步收紧针对青少年的隐私设置。
今年1月，在DSA全面合规截止日前，公司宣布默认对Facebook和Instagram青少年设置更严格消息传递规则。
Meta在年轻用户保护措施上缓慢迭代引发质疑：为何迟迟不强加更强 safeguards？这表明为保障使用量和参与度，公司选择了最低限度安全要求，正是吹哨人弗朗西斯·霍根反复谴责的行为。
针对为何不在Facebook推出新措施，Meta发言人告诉TechCrunch：“我们希望回应最大需求和相关性——在未经同意裸体内容及教育青少年风险方面主要体现在Instagram私信中，因此首先聚焦此处。”
Meta 正在推出更严格的青少年消息限制和家长控制功能