TikTok现“数字黑脸”骗局：AI伪造人设高价转售廉价商品
据《The Verge》调查，TikTok上出现数十个利用AI生成头像的账号，这些账号通常伪装成黑人女性小企业主，将SHEIN等平台的廉价批量生产商品大幅加价转售。为提升互动率，AI人设常在视频中哭泣并恳求用户支持。例如，名为“Aliyahsbuckles”的账号以约40美元出售皮带扣，而同类商品在SHEIN上的售价仅为四分之一。该账号热门视频播放量达650万次，大量用户误以为其是真实的少数族裔企业而进行购买。
AI视频检测组织Riddance.ai创始人Jeremy Carrasco指出，团队日均发现此类账号多达100个，且广泛分布于Instagram和Facebook平台。研究人员将这一现象定义为“数字黑脸”与“同情心诱饵”，即通过复制相同剧本并替换不同种族的AI头像，精准迎合算法推荐机制下的特定人口统计群体。