人工智能公司的发展速度让许多人感到紧张，因为发展过快可能导致无法解决的潜在伦理问题。
构建符合伦理的算法需要时间。快速构建的模型更可能内嵌偏见，且缺乏必要的护栏以防止其造成不必要的损害。如果仓促或草率地开发，AI 模型在某些敏感行业（如医疗保健）中有可能造成真正的伤害。
但当然，许多担忧集中在那些乘着炒作热潮涌入该领域的新创始人身上，而不是那些在当前市场动态形成之前多年就谨慎开始构建模型的众多企业家。
Authenticx：内部构建与多元化团队监督
Authenticx 的创始人兼首席执行官 Amy Brown 在 TechCrunch 的 Found 播客中表示，那些希望构建 AI 算法的人应该认识到模型构建不当可能带来的负面后果。Authenticx 是一家初创公司，利用 AI 帮助医疗保健公司从客户呼叫中心数据中获取见解。
对于 Authenticx 来说，这意味着完全在内部构建整个模型，并由了解围绕以医疗保健为重点的数据的具体细微差别的人员负责标注和训练算法。
Brown 说：“我们不仅雇佣了数据科学家，还雇佣了护士、社会工作者和咨询师，以及那些真正在其职业生涯中一直在医疗保健业务内部工作的人。他们不仅理解他们所听到的言语，还理解情境的背景。”
在这些类别中，Authenticx 有意选择加入的人员，刻意组建一个多元化的监督团队，以确保团队不会将偏见植入模型，并能够帮助发现潜在的问题模式。
Regard：多重审核与人工干预机制
Authenticx 并非唯一一家雇佣多元化医生团队以帮助减轻使用 AI 时的偏见和其他问题的公司。Regard 的联合创始人兼首席执行官 Eli Ben-Joseph 表示，他的公司也确保输入系统的每个数据点都经过多人的审核。Regard 为医生创建 AI 工具，以帮助自动化部分临床工作。
他在另一期最近的 Found 节目中说：“当我们创建任何算法及其输出时，我们确保并非由单一个人给予批准，总是至少有两到三个人进行审核，以确保其中没有植入任何形式的偏见。”
Ben-Joseph 表示，Regard 也有意消除模型产生幻觉的能力。该公司构建算法的方式是，当收到相同的问题或提示时，始终给出相同的答案，以防止错误信息传播。该模型也无法在没有人类干预的情况下自行学习。如果算法向医生提出建议，而医生忽略了它，人类团队成员将在决定模型是否应从该情况中学习之前审查每一个实例。
Ben-Joseph 说：“我们要确保它不会在我们不知情的情况下朝某个随机方向发展。因此，我们会收集反馈。但我们仍然保留人工环节，以确保我们在改进算法时做的是正确的事情。”
因此，对于刚接触 AI 的企业家来说，避免其潜在陷阱的最佳方法是缓慢而谨慎地构建。幸运的是，似乎有足够的风险投资资本和兴趣来支持这一点。