为让AI领域的女性学者及从业者获得应有的关注，TechCrunch推出系列访谈，聚焦为AI革命做出贡献的杰出女性。随着AI热潮持续，我们将全年发表多篇报道，突出展示常被忽视的关键工作。在此阅读更多人物专访。
Heidy Khlaaf是网络安全公司Trail of Bits的工程总监，专注于评估核电厂、自动驾驶汽车等“安全关键”系统中的软件和AI实施情况。
Khlaaf拥有伦敦大学学院计算机科学博士学位及佛罗里达州立大学计算机科学与哲学学士学位。她曾主导安全与审计工作，提供保证案例（assurance cases）咨询审查，并参与制定安全相关应用及其开发的标准指南。
问答
简要谈谈你是如何涉足AI领域的？是什么吸引了你进入这个领域？
我自幼被机器人技术吸引，15岁开始编程，着迷于利用机器人和AI自动化繁重工作负载。例如在制造业中，机器人既可用于辅助老年人，也能替代危险手工劳动。不过，我在计算机科学另一子领域获得了博士学位，因为我相信扎实的理论基础能让人对AI适用性做出科学判断，并识别潜在陷阱。
你在AI领域最自豪的工作是什么？
利用安全工程和安全关键系统的专业背景，为新兴AI“安全”领域提供必要语境与批评。尽管该领域试图引用成熟安全技术，但术语含义常被误解，缺乏一致定义损害了安全技术的完整性。我特别自豪于《迈向基于AI系统的全面风险评估与保证》及“代码合成大型语言模型的危险分析框架”，其中解构了关于安全和AI评估的错误叙事，并提供了弥合AI内部安全差距的具体步骤。
你如何应对男性主导的科技行业以及由此延伸出的男性主导的AI行业的挑战？
承认现状变化甚微虽非热门话题，但对技术女性理解自身处境及保持现实变革观至关重要。入行十余年来，女性留存率及领导职位比例基本未变。正如TechCrunch所言，尽管女性在AI领域贡献卓著，仍常被排除在对话之外。认识到这种停滞让我明白，建立强大的个人社区比依赖DEI倡议更有价值，毕竟技术和科学界对女性的偏见依然普遍，后者往往难以产生实质影响。
对于希望进入AI领域的女性，你会给出什么建议？
不要盲从权威，找到真正相信的工作，即使它与流行叙事相悖。鉴于AI实验室当前的政治经济权力，人们易将“思想领袖”言论视为事实，实则许多声明仅为夸大能力的营销辞令。然而，许多初级女性从业者对质疑男性同行的未证实主张表现出犹豫。冒名顶替综合征在科技女性中根深蒂固，导致自我怀疑。如今，挑战那些不可证伪的夸大说法比以往任何时候都更重要。
随着AI的发展，面临的最紧迫问题有哪些？
无论AI进步多大，都不是解决所有问题的唯一方案。当前趋势是不顾有效性强行将AI塞入各类系统。AI应增强而非取代人类能力，但目前对其陷阱和故障模式的忽视已造成真实伤害。例如，AI系统ShotSpotter最近就导致一名警官向儿童开枪。
AI用户应该注意哪些问题？
需警惕AI的不可靠性。AI算法以缺陷著称，在需精确性和安全关键的应用中错误率高。训练方式使其输出嵌入人类偏见，成为“事实上的”自动化结果。这是因为AI本质是基于历史数据的统计概率推断与相关性，而非推理、事实证据或因果关系。
负责任地构建AI的最佳方式是什么？
为确保AI保护人们权利安全，应构建可验证的主张并要求开发者负责。这些主张应限定于监管、安全、伦理或技术应用范围内且不得被证伪，否则缺乏评估系统的科学完整性。独立监管机构应像FDA评估产品那样依据主张评估AI系统，AI不应豁免于保障公众消费者保护的常规审计流程。
投资者如何更好地推动负责任的AI发展？
投资者应资助致力于建立完善AI审计实践的组织。目前资金多投向AI实验室本身，误以为其安全团队足以推进评估。然而，独立审计人员和监管机构对建立公众信任至关重要。独立性才能确保评估结果的准确完整及监管公正。