Axon伦理委员会9名成员因“泰瑟无人机”计划集体辞职
由Axon任命以就其技术决策提供建议的伦理委员会12名成员中有9人辞职，理由是该公司计划在学校安装配备泰瑟枪的无人机并实施全面监控。离职成员在信中写道：“经过数年的工作，该公司从根本上未能采纳我们试图灌输的价值观。”“我们对Axon成为负责任合作伙伴的能力已失去信心。”
AI伦理委员会的初衷与早期成效
近年来，Axon（前身为 Taser）已发展成为执法软件与硬件领域的巨头，不仅提供人们熟悉的、曾以其命名的电击武器，还推出警用摄像头以及用于证据管理的完整数字平台。暂且不论将此类事物私有化所带来的固有风险，Axon 在技术方面却表现出令人意外的深思熟虑：它积极征求这些工具将被使用的社区以及佩戴或使用这些工具的警察的意见和建议。
几年前，随着人们逐渐认识到机器学习既是一种极具价值的工具，又极易被构建不当、滥用或两者兼有，AI 伦理委员会应运而生。该委员会由专家、学者和行业专业人士组成，旨在为技术发展提供审慎的视角，提出保障措施、问责机制等建议。
正如辞职成员在声明中所述，他们起初抱有良好开端：
我们每个人都加入该委员会，是相信能够以影响公司发展方向的方式，帮助缓解警务技术可能带来的危害，并更好地捕捉其潜在益处。一段时间以来，我们看到这种影响力在 Axon 的一些决策中得以体现：从不在任何产品中配备人脸识别功能，到撤回一款用于从社交媒体网站收集数据的新软件工具，再到推动亟需的立法以规范车牌识别器的使用——我们都看到了切实证据证明我们正在产生积极影响。
CEO的坦诚与技术局限
我早在2020年就与首席执行官Rich Smith交谈过，发现他对“科技是否是解决持续存在的警务危机答案”这一问题有着令人耳目一新的诚实看法。
“技术并非万能药。它不会为我们解决这些问题，”他说。但他同时指出，同样真实的情况是，如果没有技术，其中一些问题将无法解决。警用摄像头及其他对警方互动行为的数字化追踪并非完美无缺，但我们还能指望通过何种方式系统性地记录这些事件呢？定义这些工具的不是警察，而是制造它们的科技公司，而 Axon 正努力将自己置于这一关键位置。
对于西雅图无警察抗议区而言，技术既是革命性的资产，也是灾难性的负债
争议焦点：校园泰瑟无人机与监控
但最近，在应引入多少类型及何种程度的技术作为防范大规模枪击事件的威慑手段这一问题上的做法，可能已走得太远。
委员会的信函写道：“[Axon] 计划开发配备泰瑟枪的无人机，将其预先部署于可能发生大规模枪击和学校枪击的目标地点，并在这些目标周围布设具备实时流媒体功能的监控摄像头。”
前董事会成员、纽约大学Policing Project监督组织的倡导主任Mecole McBride表示：“董事会曾了解并审议了将泰瑟无人机作为试点项目引入的计划，并设定了严格管控措施，因为关于此类设备的使用仍有诸多问题亟待解答。然而，董事会收到通知称Axon计划宣布将该工具作为广泛推广的概念，完全绕过了人工智能伦理委员会的谨慎态度。”“如果在这类重大事项上轻易就能将董事会搁置一旁，我们就不得不问自己：我们在这里究竟在做什么？”
委员会警告 Axon，若按原计划推进此事，将面临成员辞职。随后——他们确实辞职了。
官方回应：暂停开发与重新评估
鉴于此以及社区其他人士的抗议，认为这可能并非应对大规模枪击威胁的恰当方式，Smith 撰写了这篇博客文章，承认公司可能操之过急。
“鉴于收到的反馈，我们已暂停该项目的开发工作，并将重新聚焦于与关键利益相关方进一步沟通，以全面探索最佳的前进路径。”他写道。“在学校中部署远程操作、配备非致命性 TASER 的无人机只是一个概念，而非成熟产品，距离实现还有很长的路要走。我们需要大量工作和深入探讨，以评估这项技术是否切实可行，并了解在推进之前能否充分回应公众的关切。”
信任危机：咨询流程形同虚设？
他还表示，他们将“加强”收集替代意见的流程，但正如麦克布赖德所指出的那样，这一流程似乎已经压倒了其现有体系。那么，究竟哪些改进措施能够防止它在未来对任何处于纯咨询角色（无论人员配置多么充足）的人重蹈覆辙，而决策权却掌握在鹰派手中？Axon 并未回答有关董事会未来走向的问题，而是让我参考上述帖子。
有趣的是，史密斯在该声明中声称，辞职的道德委员会成员“在我们听取或有机会解答他们的技术问题之前，就选择退出对这些问题的直接参与。”
然而，代表警务项目（Policing Project）并与 Axon 及道德委员会就该构想开展工作的律师马克·艾萨克斯（Max Isaacs）表示：“在过去一年多里，道德委员会一直与 Axon 就一项有限试点计划的参数进行讨论”，这暗示史密斯的说法颠倒了事实。艾萨克斯说：“该公司违背了在做出此类重大决定前咨询道德委员会的承诺，并拥抱持续的大规模监控，这表明 Axon 在负责任地开发该技术方面缺乏足够的承诺。”他在另一条信息中重申，他们曾“恳求”Axon 不要公开这一构想。
一名Axon代表解释说，董事会此前评估的是用于警察的泰瑟无人机，而非“预装在公共空间”且曾短暂打算在学校使用的版本。这一说法作为董事会未参与评估的借口显得颇为牵强：他们对警方部署的关注必然在学校部署问题上更为紧迫。正如辞职信所指出的，Axon并未给予他们太多回应时间——或者更确切地说，Axon早已清楚他们的回应会是什么。
无论如何，Taser 无人机计划已被搁置，Axon 或许会在点燃这场火药桶般的讨论时三思而后行。技术在安全和执法领域始终扮演着重要角色，但如果行动速度超过我们的思考能力，不仅无益于人，还可能带来严重的后果。