Instagram推出青少年高风险搜索预警系统
近期，社交媒体公司最重要的议题之一是年轻用户的安全。诉讼和监管压力的增加正迫使平台在应对高风险内容方面采取更积极的措施。在此背景下，Instagram宣布了一项新系统，该系统将跟踪青少年关于自杀或自我伤害的搜索行为，并通知他们的父母。
据此，如果一名青少年在短时间内反复搜索此类高风险内容，系统将向家长发送警告。通知将通过电子邮件、短信、WhatsApp或应用内消息发送，并向家长提供指导内容，帮助他们了解如何与孩子沟通。
该功能将在未来几周内对已注册家长控制计划的家庭启用。Instagram目前已在阻止用户搜索自杀和自残相关内容。然而，新系统的目标是通过特别检测连续进行的搜索来通知家长。该公司表示，为防止这些警告被不必要地发送，已与专家共同设定了阈值。
Meta面临诉讼压力与内部调查挑战
功能的发布正值Meta面临有关年轻用户安全问题的诉讼之际。本周，Instagram首席执行官Adam Mosseri在美国加利福尼亚北区联邦地区法院（U.S. District Court for the Northern District of California）的一起案件中出庭作证。
此外，在洛杉矶高等法院（Los Angeles County Superior Court）审理的另一项诉讼中，Meta的内部调查结果显示，家长控制工具在限制儿童强迫性使用社交媒体方面作用有限。
全球推广计划及AI风险预警
新系统最初将在美国、英国、澳大利亚和加拿大启用，并计划在今年内向其他国家开放。Instagram还计划在将来，当青少年尝试在应用内与人工智能讨论自杀或自残话题时，向家长发送通知。