反乌托邦还是实用?亚马逊周二表示,其Ring门铃现在将通过一项新的AI驱动面部识别功能来识别访客。这一备受争议的功能被称为“熟悉面孔”,今年9月初宣布,目前正在向美国的Ring设备用户推出。
亚马逊表示,该功能允许你通过创建多达50张面孔的目录来识别经常来到你家门口的人。这些面孔可能包括家庭成员、朋友和邻居、送货司机、家政人员以及其他人员。在你在Ring应用中标记某人后,当此人靠近Ring摄像头时,设备将识别出他们。
然后,你不会收到“有人在你家门口”的提醒,而是会收到个性化的通知,比如“妈妈在前门”,该公司在其发布声明中解释道。
该功能已经遭到消费者保护组织,如电子前哨基金会(EFF)以及一位美国参议员的反对。
亚马逊表示,Ring用户可以利用该功能来禁用他们不想看到的提醒——例如那些提及自己进出情况的通知。并且他们可以针对每张面孔单独设置这些提醒。
该功能默认未启用。相反,用户需要在应用的设置中手动开启它。
同时,可以在应用的事件历史记录部分或直接在新建的“熟悉面孔”库中为面孔命名。一旦标记,该面孔在所有通知、应用的时间线以及事件历史记录中都将被命名。这些标签可以随时编辑,并且有工具可以合并重复项或删除面孔。
亚马逊声称面部数据经过加密,且永远不会与他人共享。此外,该公司表示,未命名的面孔将在30天后自动删除。
对AI人脸识别的隐私担忧
尽管亚马逊做出了隐私保证,但该功能的添加仍引发了人们的担忧。
该公司此前一直有与执法部门建立合作关系的历史,甚至曾允许警察和消防部门通过直接向亚马逊请求,获取人们的门铃监控录像。最近,据404Media报道,亚马逊还与Flock合作,后者是供警察、联邦执法机构以及美国移民和海关执法局(ICE)某个部门使用的AI驱动监控摄像头的制造商。(Flock Safety在文章发布后发邮件表示,ICE并未使用Flock的产品。)
Ring自身的安全努力在过去曾存在不足。
2023年,Ring被迫支付580万美元的罚款,因为美国联邦贸易委员会发现,多年来Ring员工和承包商可以广泛且不受限制地访问客户的视频。其Neighbors应用程序还暴露了用户的家庭地址和精确位置,以及用户的Ring密码多年来一直在暗网流传。
鉴于亚马逊愿意与执法机构和数字监控提供商合作,加上其糟糕的安全记录,我们建议Ring用户至少在使用真名标识他人时要谨慎;更好的做法是禁用该功能,仅用于查看是谁。并非所有事物都需要AI升级。
由于隐私问题,亚马逊的Ring已经面临美国参议员埃德·马基(Ed Markey,民主党-马萨诸塞州)要求放弃这一功能的呼吁,并遭到消费者保护组织(如EFF)的强烈反对。EFF还指出,隐私法阻止了亚马逊在伊利诺伊州、德克萨斯州和俄勒冈州波特兰市推出该功能。
针对该组织提出的问题,亚马逊表示用户的生物识别数据将在云端处理,并声称不会利用这些数据训练AI模型。它还声称,即使执法部门请求提供此类数据,从技术角度来看,它也无法识别出检测到某人的所有位置。
然而,鉴于其与“搜索小队”(Search Party)功能的相似性,这一点尚不清楚为何不成立,“搜索小队”功能通过社区内的Ring摄像头网络寻找走失的猫狗。
EFF的律师F. Mario Trujillo在回应评论时表示:“敲敲门,或者仅仅是在门前走过,都不应该要求人们放弃自己的隐私。随着该功能的上线,州隐私监管机构介入调查、保护个人隐私并检验其生物识别隐私法的有效性变得比以往任何时候都更加重要。”
发布后更新了EFF的评论。

