Instagram 正在修改关于 AI 生成人设账户的规则，要求此类账户使用新的“AI 生成档案”标签，以明确标识内容为 AI 生成而非真人。公司表示，未使用该标签的账户内容传播范围将受到限制。
此举正值其他平台采取措施降低 AI 生成内容显著性之际，社交媒体用户普遍反感涌入的 AI 垃圾内容。尽管 Meta 以往对 AI 内容管控较少，但此次新规并非全面打击所有 AI 内容，而是针对可能具有误导性的特定类型——即展示 AI 生成人设的账户。
此前，Instagram 使用可选的“AI 创作者”标签作为统称，现已将其替换为“AI 生成档案”。根据应用内描述，新标签专门适用于“展示 AI 生成人物”的档案。
随着 AI 模型日益先进，制作逼真内容的门槛降低，虚假 AI 网红数量激增。卫报 近期揭露了一批推销应用的 AI 生成“网红”，纽约时报 也发现数百名自称医生的 AI “健康”博主。虽然这些内容大多未直接违反 Meta 规定，但引发了公众对错误信息蔓延的担忧。
Instagram 发言人表示：“社区反馈称，用户不喜欢遇到看似真人的账户，事后却发现是 AI 生成的。”该发言人补充道，未贴标且拥有 AI 人物的账户可能会很快被限流。认为因此被误罚的创作者可通过 Instagram 的账户状态仪表板进行申诉。