大数跨境

因错误识别窃贼,Rite Aid被禁止使用人脸识别软件

因错误识别窃贼,Rite Aid被禁止使用人脸识别软件 海外洞察
2023-12-20
0
导读:Rite Aid已被禁止使用面部识别软件,美国联邦贸易委员会(FTC)指出该药店对人工智能监控技术的“鲁莽”使用。

Rite Aid 已被禁止使用面部识别软件五年。此前,美国联邦贸易委员会(FTC)发现这家大型药店巨头“鲁莽地使用面部监控系统”,不仅令顾客感到羞辱,还使其敏感信息面临风险。

由于 Rite Aid 已于十月申请第11章破产保护,FTC 的命令需经美国破产法院批准后方可生效。该命令要求 Rite Aid 删除部署面部识别系统期间收集的所有图像及基于这些图像构建的产品,同时必须实施强有力的数据安全计划以保护个人数据。

据路透社2020年报道,该连锁药店自2012年起在八年时间里秘密在美国约200家门店引入面部识别系统,而“主要是低收入、非白人社区”成为了该技术的试验田。

随着 FTC 日益关注生物监控滥用问题,Rite Aid 成为监管焦点。其中一项指控指出,Rite Aid 与两家外包公司合作创建了包含顾客图像的“监控名单数据库”。这些图像通常质量较差,通过闭路电视或员工手机摄像头捕捉,且被声称曾在门店从事过犯罪活动。

当进店顾客被系统判定与数据库图像匹配时,员工会收到自动警报并被指示采取行动——通常是“接近并确认身份”,即核实身份并要求离开。FTC 表示,此类“匹配”多为误报,导致员工错误指控顾客不当行为,造成尴尬、骚扰及其他伤害。

投诉文件显示:“员工根据误报警报在店内跟踪消费者、搜查身体、驱离顾客、叫警察对峙,甚至在亲友面前公开指责其偷窃或其他不当行为。”此外,FTC 指出 Rite Aid 未告知顾客正在使用面部识别技术,反而特别指示员工不向顾客透露此信息。

对决

面部识别软件已成为 AI 驱动监控时代最具争议的领域之一。近年来,多个城市对该技术发布广泛禁令,政客们也在努力规范警方使用方式;与此同时,Clearview AI 等公司因重大数据隐私泄露事件在全球遭遇诉讼和罚款。

FTC 关于 Rite Aid 的最新发现揭示了 AI 系统的固有偏见。调查指出,Rite Aid 未能减轻针对特定种族消费者的风险,其技术在黑人和华裔占多数的社区产生误报的可能性高于白人占多数的社区。

此外,FTC 表示 Rite Aid 在部署前或部署后均未对面部识别系统的准确性进行测试或评估。

Rite Aid 在新闻稿中表示对“与 FTC 达成协议感到高兴”,但不同意指控核心内容。该公司声明称:“这些指控涉及少数门店的试点项目。早在 FTC 开始调查的三年前,Rite Aid 就已停止在小范围门店中使用该技术。”

【声明】内容源于网络
0
0
海外洞察
海外资讯洞察,电商,AI
内容 14232
粉丝 0
海外洞察 海外资讯洞察,电商,AI
总阅读3.2k
粉丝0
内容14.2k