- 人工智能（AI）算法基于人类设计选择，难以做到价值中立，可能产生有偏见的结果；
- 不应因AI存在延续不平等的倾向而摒弃技术，正视问题有助于推动公平进程；
- 将敏感信息纳入数据集并分析不公平结果的共有特征，是解决AI偏见的有效路径。
人工智能（AI）可能产生有偏见的结果已非新鲜事。其算法源于人类的设计选择，而人类决策鲜少能实现价值中立。当要求算法复刻过往决策模式时，成见便可能被放大。然而，这并不意味着应放弃或搁置AI技术，相反，认识到AI延续不平等的倾向，恰恰是推动社会公平的重要契机。相较于纠正受无意识偏见影响的人类决策，减轻AI偏见更具可行性，因为其缺失的公平性可被系统化量化且更为透明。
必须将人工智能公平性视为优先事项
政府和企业需将AI公平性置于优先位置，因为算法已深度介入就业、借贷及医疗卫生等关键决策领域。目前，美国平等就业机会委员会（EEOC）的监管以及欧盟《人工智能法案》和《人工智能责任指令》，正致力于限制AI偏见事件的增加。
信贷、医疗、就业、教育、住房、执法及边境管制等领域应成为监管重点。在这些场景中，刻板印象与偏见往往维持着不公平现状，可能导致预期寿命缩短、失业、无家可归及贫困等严重后果。控制AI偏见必须从采用前的算法测试开始，若评估者仅关注数据本身而忽视结果公平性，偏见错误极易发生。由于模型复杂性及现实场景的多变性，AI建议产生的差异化影响往往难以预测，而这正是偏见显现之处。
为可靠控制偏见，私营部门或政府应建立包含年龄、性别、种族、残疾、婚姻状况、家庭组成、健康和收入等敏感数据的中央数据库，以此测试并纠正AI驱动模型的偏差。这种“AI公平性”数据集可使企业在发布招聘要求前审查潜在偏见，高校招生时也能主动分析经济地位、性别、种族等因素对录取结果的影响。
数据并不总是中立的
过去常有人认为消除偏见只需从算法中删除性别和种族信息，但实践证明这一假设是错误的。即便去除显性标签，算法仍能从匿名数据的其他维度推断出候选人的种族或性别。
以借贷为例，移除人口统计学数据后，AI仍倾向于白人男性。这是因为该群体拥有更稳定的收入历史和资产积累，而这本身就是历史不公平就业的结果。信贷算法试图复制过往贷款模式，基于历史偏见和缺失数据判断非白人和非男性人群还贷可能性较低，从而拒绝提供服务。此外，银行曾将“是否愿意提供手机号码”作为还款意愿指标，但因女性更不愿留下号码，导致其在借贷中处于明显劣势。
AI准确性同样关键
AI结果必须进行准确性测试，否则偏差不可避免。以生成式AI（如ChatGPT）为例，当前缺乏对其准确性和真实性的强制标准，使其成为传播偏见的新途径。聊天机器人无法验证输入数据的事实根基，仅模仿人类对话模式，无论内容是否可取均会输出。
通过将敏感信息放回数据集并分析不公平结果的共有特征，我们能更有效地解决AI偏见。这也意味着需要利用AI技术本身来发现并修复其在公平性方面的缺陷。
本文作者：
Sian Townson，奥纬咨询合伙人
Michael Zeltkevic，奥纬咨询执行合伙人兼全球能力总负责人
本文原载于世界经济论坛Agenda博客