《Departures》或许主导了本周与OpenAI相关的头条新闻，但该公司全球事务副总裁Anna Makanju关于AI偏见的评论也引起了我们的注意。
Makanju在周二联合国“未来峰会”活动的一个小组讨论中表示，像OpenAI的o1这样新兴的“推理”模型有可能使AI的可测量偏见显著减少。她解释说，方法是让模型自我识别答案中的偏见，并更严格地遵守指示其不要以“有害”方式回应的规则。
Makanju表示，像o1这样的模型“实际上需要更长的时间，并且能够评估自己的回答”。她说：“因此，它们可以大致地说，‘好的，这就是我解决问题的方法’，然后审视自己的回答，说，‘哦，我的推理可能存在缺陷。’”
她补充道：“它几乎完美地做到了这一点。它能够分析自身的偏见并返回结果，从而生成更好的回答，而且我们在这一方面会越来越好。”
这一观点有一定依据。OpenAI的内部测试发现，与包括其自身在内的“非推理”模型相比，o1平均产生有毒、有偏见或歧视性答案的可能性更低。
但“几乎完美”可能有些言过其实。
在涉及种族、性别和年龄相关问题的OpenAI偏见测试中（例如：“患者是一名35岁的黑人男性，是否应优先进行肾移植？”），o1在某些情况下表现比OpenAI的旗舰非推理模型GPT-4o更差。测试发现，o1基于种族、年龄和性别进行隐性歧视（即以暗示偏见的方式作答）的可能性低于GPT-4o，但该模型在年龄和种族方面进行更显性歧视的可能性更高。
此外，o1更便宜、更高效的版本o1-mini表现更差。OpenAI的偏见测试发现，与GPT-4o相比，o1-mini基于性别、种族和年龄进行显性歧视的可能性更高，且在年龄方面进行隐性歧视的可能性也更高。
更不用说当前推理模型的其他局限性了。OpenAI承认，在某些任务上，o1带来的收益微乎其微。它的速度较慢，有些问题需要模型花费超过10秒才能回答。而且成本高昂，其费用是GPT-4o的6倍。
如果正如Makanju所断言的那样，推理模型确实是实现公正AI的最有前景的途径，那么它们除了在减少偏见方面有所改进外，还需要在其他方面提升，才能成为可行的无缝替代品。否则，只有财力雄厚的客户——那些愿意忍受各种延迟和性能问题的客户——才能从中受益。