AI算法绕过安全过滤，向用户推送种族主义言论
科技界因一起新的内容审核危机而震动，揭示了无人工监管的人工智能系统可能带来的巨大风险。Google 在生态系统中运行、通过自动摘要推送新闻的AI算法，绕过了安全过滤器，直接将一句种族主义言论通过即时通知发送至用户设备。
丑闻源于算法无法识别敏感语境
据披露的信息显示，此次丑闻源于该算法在总结与BAFTA（英国电影和电视艺术学院）奖项相关的影评时，无法分析内容的敏感性和语境。这一仅关注速度、未经人工审核且完全自主运行的通知系统，暴露了这家科技巨头引以为傲的内容过滤器极易被突破。用户在屏幕上看到的不当用语，在数字平台上引发了强烈反响。
BBC致歉，BAFTA启动全面评估
这场丑闻的余波不仅局限于科技公司，还深刻影响了传统媒体机构。BBC管理层在自身播出流程和内部沟通渠道遭遇类似漏洞后，正式向全体员工致歉。
位于文化中心的BAFTA管理层随后宣布，鉴于这一连串事件，已启动涵盖所有内容审查、摘要和审批环节的范围广泛的评估流程。
生成式模型仍需人类监督
这一事件被视为生成式模型尚无法在无人类监督下自主运行的最有力证明。尽管人工智能系统具备秒级处理和总结海量文本的能力，但在理解敏感词汇的社会分量及伦理边界方面仍存在关键缺陷。企业在追求自动化降本的同时，缺乏人工干预正对品牌价值造成难以修复的损害。