为聚焦人工智能领域杰出女性贡献者，TechCrunch 推出系列访谈，旨在给予这些学者及从业者应有的关注。
人物简介
阿尼卡·科利尔·纳瓦罗利（Anika Collier Navaroli）现任哥伦比亚大学数字新闻托中心高级研究员，并与麦克阿瑟基金会合作担任OpEd项目技术公共声音研究员。她以科技领域的研究与倡导工作闻名，曾任斯坦福慈善与公民社会中心种族与技术实践者研究员，并在Twitch和Twitter负责信任与安全事务。她曾就社交媒体上被忽视的暴力预警在国会作证，这些预警预示了后来的1月6日国会山袭击事件。
入行契机：从新闻编辑室到AI研究
简要谈谈你是如何开始涉足人工智能领域的？是什么吸引了你进入这个领域？
约20年前，我在家乡报纸新闻编辑室做抄写员时正值数字化转型期。作为新闻学本科生，我痴迷于理解建立在印刷术基础上的法律将如何随新兴技术演变。这种好奇心引导我进入法学院，转向Twitter研究媒体法与政策，见证了阿拉伯之春和占领华尔街运动。我将这些经历整合撰写硕士论文，探讨新技术如何改变信息流动及社会行使言论自由的方式。
毕业后，我曾在律师事务所工作，后加入数据与社会研究所（Data & Society Research Institute），领导关于“大数据”、民权和平等性的研究，考察早期AI系统（如面部识别、预测性警务工具等）如何复制偏见并影响边缘化社区。此后，我在Color of Change主导了对某科技公司的首次民权审计，制定科技问责行动指南并向政府倡导政策变革。之后，我成为Twitter和Twitch信任与安全团队的高级政策官员。
核心成就：扭转权力格局与揭示边缘体验
你在人工智能领域最自豪的工作是什么？
我最自豪的是在科技公司通过政策实践扭转权力格局，纠正文化与知识生产算法系统中的偏见。在Twitter期间，我主导多项活动，为黑人女性、有色人种及酷儿群体等此前被排除在验证流程外的人提供认证，并引领Safiya Noble、Alondra Nelson等AI学者获得认证。2020年，认证意味着账号内容会成为核心算法的一部分，注入推荐流、搜索结果及趋势形成中。让持有不同AI观点的新用户获得认证，从根本上改变了哪些声音被视为权威“思想领袖”，并将新思想提升至公共讨论高度。
我也非常自豪于在斯坦福大学开展并最终汇聚成《Black in Moderation》的研究。在科技公司内部工作时，我注意到无人真正撰写或谈论作为信任与安全部门黑人的日常体验。离开行业回到学术界后，我决定与黑人科技工作者交谈并揭示他们的故事。这项研究成为同类首创，引发了许多关于边缘化身份科技员工体验的重要对话。
职场挑战：应对“被迫的身份劳动”
你如何应对男性主导的科技行业，进而也是男性主导的 AI 行业所带来的挑战？
作为一名黑人酷儿女性，应对男性主导空间及被“他者化”是我人生旅程的一部分。在科技和AI领域，最具挑战性的是我研究中称为“被迫的身份劳动”的现象。该术语描述了一种常见情况：具有边缘化身份的员工被当作整个共享其身份群体的声音和代表来对待。由于开发AI等新技术伴随高风险，这种劳动有时几乎无法逃避，我必须学会设定具体界限，明确何时介入哪些问题。
紧迫问题：合成数据与“地狱般的反馈循环”
随着 AI 的发展，面临的最紧迫问题有哪些？
调查显示，当前生成式AI模型已吞噬互联网大部分数据，全球最大AI公司正转向由AI生成的合成数据以继续训练系统。我认为将合成数据用作训练数据是AI发展面临的最紧迫道德问题之一。生成式AI已证明会基于原始数据复制偏见并制造虚假信息，用合成数据训练新系统意味着不断将有偏见和不准确的输出反馈回系统中，这可能退化为“地狱般的反馈循环”。
自从我撰写相关文章以来，马克·扎克伯格称赞Meta更新的Llama 3聊天机器人由部分合成数据驱动，并称其为市场上“最智能”的生成式AI产品。
用户建议：呼吁“人类暂停”与集体行动
AI 用户应该注意哪些问题？
AI已成为拼写检查、社交媒体信息流、聊天机器人及图像生成器等无处不在的一部分，社会某种程度上成了这项未经测试技术的试验品。但用户不应感到无力。我一直主张技术倡导者应团结起来，呼吁对AI实施“人类暂停”。美国编剧工会已证明，通过组织、集体行动和耐心决心，人们可以为AI应用创造有意义的界限。如果我们现在暂停下来，纠正过去错误并制定新道德准则与法规，AI就不必成为未来的存在性威胁。
未来展望：新闻教育赋能与外部监管
负责任地构建人工智能的最佳方式是什么？
在科技公司内部的经历让我深刻认识到，谁参与制定政策、提出论据和做出决策至关重要。我的职业路径表明，新闻学院的学习培养了在科技行业取得成功所需的技能。如今回到哥伦比亚大学新闻学院，我致力于培养下一代人才，使其能在科技公司内部及作为外部监督者从事技术问责和负责任开发AI的工作。
新闻学院提供了质疑信息、探寻真相、考虑多视角、构建逻辑论证及从虚假中提炼事实的独特训练，这为那些将负责制定AI规则的人奠定了坚实基础。我也期待为后来者铺就更顺畅的职业道路。
此外，除专业信任与安全人员外，AI行业还需外部监管。在美国，我主张设立新机构监管科技公司，赋予其制定和执行基本安全与隐私标准的权力。同时，应继续致力于将现任和未来监管机构与前科技从业者联系起来，帮助掌权者提出正确问题并制定细致实用的解决方案。