几周前，一位创始人告诉我，他花了三个小时不停地点击，才找到一张由AI生成的黑人女性肖像。这在某种程度上让我想起了我三年前看到的一场演讲。当时，Jigsaw的研究与发展主管Yasmin Green谈到人类偏见是如何渗入AI编程的。她的演讲与这位身处异地、相隔多年的创始人，共同构成了同一幅拼图的两块碎片。
随着AI进入新的黄金时代，关于多样性的讨论比以往任何时候都更加重要。每一种新技术的出现似乎都伴随着一些令人震惊的后果。迄今为止，AI已助长了种族主义的招聘策略以及黑人获得住房批准的速度变慢。自动驾驶汽车难以检测深色皮肤，这使得黑人更有可能被其撞击；在一例中，机器人将黑人男性识别为罪犯的比例比白人高出9%，如果司法系统开始采用AI，这将被置于全新的审视之下。
人工智能伦理通常被视为与人工智能开发相独立的议题，但它们本应是一体的。偏见是危险的，尤其是当人工智能继续渗透到日常生活中时。几个世纪以来，医生曾依据如今被视为种族主义的标准来评判黑人，其中一种普遍的观点是这些人感受到的疼痛较少。如今，算法对黑人存在歧视；2019年的一项研究发现，美国医院使用的一种算法“不太可能将病情同样严重的黑人患者转介给旨在改善复杂医疗需求患者护理的项目，而同等病情的白人患者则更常被转介”。
目前，偏见出现在各种AI子领域，从投资到招聘再到数据和产品执行，每种偏见实例都在支撑着其他偏见。EchoVC Partners创始人Eghosa Omoigui表示，尽管AI可以“非常强大”，但社会距离“完美”的人工智能还有很长的路要走。
“这意味着由于对训练数据的来源、权重和偏见存在过度依赖，结果中出现AI偏见的概率仍然很高，”他说。“多元化的团队将优先考虑实现全球影响力所需的细致理解和敏感性。”
Omoigui的兄弟Nosa，ESG合规监管机构Weave.AI的创始人重申了这一点。他指出，许多模型都是黑箱，创作者对预测或推荐是如何实现的内部运作没有特别的了解。与华尔街相比，AI实际上处于无监管状态，随着治理水平未能跟上其增长速度，它有可能失控。欧盟提出了减少和解释AI驱动产品中偏见的步骤，尽管遇到了一些阻力，但该提案本身使其略微领先于美国目前的状况。
事实上，Eghosa表示，许多投资者根本不在乎或不考虑AI内部的多样性问题，并且在机器主导的能力方面存在群体思维心态。他回忆起当他帮助领导软件公司KOSA AI监测AI偏见和风险的投资轮次时，投资者给他的反应。
“我们交谈过的相当一部分投资者强烈认为AI偏见并不存在，或者认为‘觉醒的产品’不会有产品市场契合度，这至少可以说令人惊讶，”Eghosa说。
鉴于投资者在投资模式（特别是在AI领域）中本身就表现出偏见，他们不认为偏见是一个问题也就不足为奇了。Crunchbase数据显示，2019年，拥有至少一名黑人联合创始人的美国公司在分配给美国AI公司的199.5亿美元风险投资基金中仅获得了4000万美元。拥有至少一名黑人联合创始人的美国公司在2021年从415.7亿美元中获得了3.08亿美元，在2022年从234.8亿美元中获得了5400万美元。
数据可视化由 Miranda Halpern，由 Flourish
过去几年中，至少拥有一位黑人共同创始人的公司所获得的资本金额一直徘徊在1%以下，与至少拥有一位女性创始人的公司相比（例如，自2019年以来其融资比例逐年增加），目前看来并没有任何迹象表明这一比例会很快上升。
对新创办的黑人创始人公司的投资不足，得益于现有公司AI团队中缺乏多样性，这反过来又影响了产品执行。所有这些因素，加上治理的缺失，形成了一个自我强化的循环。Parfait是一家由AI驱动的假发公司，旨在满足打理黑人头发这一昂贵且耗时的需求。其联合创始人Isoken Igbinedion表示，投资者对她的产品很感兴趣，尤其是在该行业中应用AI并不常见。
Igbinedion将AI称为一场“数字游戏”，她指出，如果数据集中没有足够多样化的各类人群代表，那么生成的应用程序就无法很好地服务于所有人。
“这对黑人女性来说尤其令人恐惧，因为她们通常是代表性最不足的群体，”她说。作为一名黑人创始人，她能够创造出能够满足其社区需求的产品，因为她了解这些需求；而这种细微差别往往是那些构建强大AI公司的白人男性所不常看到或未优先考虑的。
Igbinedion表示，解决AI偏见问题不仅仅需要自力更生；还需要真正的支持以及能够投资于长期解决方案的真实资金。再次强调，黑人创始人愿意填补空白，但在这个行业中，人们并未给予足够的关注来探讨为何总是由多元化个体站出来推动变革。
Parfait正致力于构建数据集，以帮助他人建立公平的训练模型——基本上是在编写更好的“配方”来喂给机器。Nosa实施了一个由算法运行并受人监督的知识图谱，以防止他的系统做出任何“随机”建议。
Igbinedion补充道：“随着AI渗透进社会，开发人员和企业成为这项技术的良好守护者至关重要，同时也应追究其他技术人员在这些不道德用例中的责任。”
嵌入式借贷平台Migo的创始人Ekechi Nwokah提出了一个有趣的观点。他表示，目前这个领域充满了兴奋——人们建设速度极快，投资者也非常看好——以至于往往没有时间去做组建多元化团队或审查算法以确保一切完全无偏见甚至只是比现在少一些偏见的工作。他说，特别是在早期阶段，企业家希望尽快推出产品，但他也补充说，随着企业成熟，创始人更有可能回头修复任何问题。
“我认为大多数从事AI模型开发的人都有良好的初衷，”Nwokah表示。他说，他试图通过专注于招聘和实施将多样性作为公司核心支柱的政策来防止偏见，希望这能带来更好的产品构建决策。
与此同时，Nwokah继续说道，微调模型并解开赋予这些AI模型的历史因果输入数据需要时间。“AI模型预测未来。这是一件非常困难的事情，你只能基于过去发生的事情来预测未来，因此模型只能通过它之前所见的内容进行预测，就像人类一样，”Nwokah说。
或许，为了对抗喂给某些AI模型的有偏见的叙事，构建者必须编织出一个新社会的图景，一个理想的社会。正如Nwokah所暗示的那样，过去已经写好，AI的构建者必须设想并实现一个更美好的未来。
与此同时，Eghosa表示，他担心这种生成式AI的“狂热”让人们忘记了AI驱动的工具和产品应具备的必要尊重、认可和护栏。
他说，在拥有多元化创始人的其他创业领域中，代表性不足的创始人已经优先考虑公平的建设和执行。出于某种原因，其他创始人无法掌握这种多任务处理能力，这就是为什么花了三个小时才找到一张由AI生成的黑人女性肖像的原因。
生成模型的概念很棒，但算法是从一个主流照片分享网站训练而来的，并继承了其偏见。该热门网站上的照片包含许多白人女性的图像，这意味着算法更容易创建逼真的白人面孔，而不是其他种族的面孔。该系统已有几年历史，但导致该系统的问题仍然困扰着整个行业。
“我不知道我们是否永远能完全消除偏见，”Eghosa说。“话虽如此，我很兴奋地发现——并且我确信更多方法正在涌现——由AI驱动的潜在可扩展方法可以识别偏见、分析偏见，并提供数据驱动的决策支持工具和平台，以减轻或消除偏见。它的力量和效用被严重低估了。有了必要的护栏，它将赋能并加速决策、生产力和经济增长，同时创造更多的机会获取途径和社会提升。”