像大多数工程师一样，小时候我只要填上答案就能解答小学数学题。
但当我没有“展示解题过程”时，老师会扣分；如果没有解释，正确答案的价值也不大。然而，这种对长除法中可解释性的高标准，似乎并未适用于人工智能系统，即使这些系统正在做出关乎生命的重要决策。
占据当今头条新闻并引发股市狂热的各大AI巨头——OpenAI、Google、Microsoft——都在其平台上使用黑盒模型。查询从一端输入，答案从另一端输出，但我们完全不知道AI使用了哪些数据或推理来提供该答案。
大多数这些黑盒AI平台都是基于一个名为“神经网络”的几十年历史的技术框架构建的。这些AI模型是对训练数据的抽象表示，它们并不直接与训练数据相连。因此，黑盒AI根据其认为最可能的答案进行推断和外推（extrapolation），而非基于实际数据。
有时，这种复杂的预测过程会失控，导致AI“幻觉”。由于黑盒AI本质上无法对其行为负责，因此它天生就不可信。如果你无法看到AI为何以及如何做出预测，你就无法判断它是否使用了虚假、被篡改或有偏见的数据或算法来得出结论。
虽然神经网络极其强大且将长期存在，但另一个低调却日益重要的AI框架是：基于实例的学习（IBL）。它与神经网络截然不同。IBL是一种用户可以信任、审计和解释的AI。IBL将每一个决策都追溯到用于得出该结论的训练数据。
IBL能够解释每一个决策，因为AI并非生成数据的抽象模型，而是直接从数据本身做出决策。用户可以审计基于IBL构建的AI，通过质询了解其决策的原因和方式，然后介入以纠正错误或偏见。
这一切之所以可行，是因为IBL将训练数据（“实例”）存储在内存中，并根据“最近邻”原则，根据新实例与现有实例的物理关系对新实例进行预测。IBL以数据为中心，因此各个数据点可以直接相互比较，从而深入了解数据集和预测结果。换句话说，IBL“展示了它的解题过程”。
这种可理解AI的潜力显而易见。希望以可信、可解释和可审计的方式部署AI的公司、政府以及其他受监管实体，可以使用IBL AI来满足监管和合规标准。IBL AI对于偏见指控泛滥的应用场景也将特别有用——例如招聘、大学录取、法律案件等。
如今，企业已在实际业务中应用IBL。我的公司构建了一套商业化的IBL框架，被包括大型金融机构在内的客户用于检测客户数据中的异常，并生成符合欧盟《通用数据保护条例》（GDPR）要求的可审计合成数据。
当然，IBL并非没有挑战。IBL的主要限制因素是可扩展性，这也是神经网络在30年间面临的难题，直到现代计算技术使其变得可行。对于IBL而言，每条数据都必须被查询、编目并存储在内存中，随着数据集的扩大，这一过程会变得更加困难。
然而，研究人员正基于信息理论的进展开发快速查询系统，以显著加快这一过程。这项尖端技术使IBL能够直接与神经网络的计算可行性相抗衡。
尽管存在这些挑战，IBL的潜力显而易见。随着越来越多的企业寻求安全、可解释且可审计的人工智能，黑盒式神经网络将不再适用。因此，如果你经营一家公司——无论是小型初创企业还是大型企业——以下是一些立即开始部署IBL的实用建议：
采用敏捷和开放的心态
在使用IBL时，最佳做法是探索数据所能提供的洞察，而不是为其分配特定任务，例如“预测某商品的最优价格”。保持开放思维，让IBL引导你的学习方向。IBL可能会告诉你，它无法从给定数据集中很好地预测最优价格，但可以预测人们一天中购买最频繁的时段、他们如何联系贵公司，以及他们最可能购买的商品。
IBL是一种敏捷的人工智能框架，需要决策者与数据科学团队之间进行协作沟通——而非当今许多企业在部署AI时常见的“把问题抛过去，然后等待答案”的模式。
对AI模型秉持“少即是多”的理念
在传统黑盒AI中，单个模型是为单一任务（如分类）训练和优化的。在大型企业中，这可能意味着需要管理成千上万个AI模型，既昂贵又难以驾驭。相比之下，IBL支持多功能、多任务分析。例如，单个IBL模型可用于监督学习、异常检测和合成数据生成，同时仍提供完全的可解释性。
这意味着IBL用户可以减少模型的构建和维护数量，从而打造更精简、更具适应性的AI工具箱。因此，如果你采用IBL，你需要程序员和数据科学家，但不必投入大量拥有AI经验的博士人才。
多样化你的AI工具集
神经网络非常适合那些不需要解释或审计的应用场景。但当人工智能帮助企业做出重大决策时，例如是否在新产品上投入数百万美元，或是完成一项战略性收购，它必须具备可解释性。即使人工智能用于做出较小的决策，比如是否录用某位候选人或给予某人晋升，可解释性也至关重要。没有人愿意听到自己因为一个无法解释的黑盒决策而错失晋升机会。
在这些类型的场景中，公司很快将面临诉讼。应根据应用场景选择人工智能框架；如果只需要快速的数据摄入和快速的决策制定，就选择神经网络；如果需要可信、可解释且可审计的决策，则使用IBL。
基于实例的学习（IBL）并非新技术。在过去二十年中，计算机科学家在开发神经网络的同时也并行开发了IBL，但IBL获得的公众关注较少。如今，在当今的人工智能军备竞赛中，IBL正重新获得关注。IBL已证明其能够在保持可解释性的同时实现扩展——这是对那些产生虚假且不可验证信息的幻觉式神经网络的有益替代方案。
随着众多公司盲目采用基于神经网络的AI，明年无疑会出现大量数据泄露事件，以及围绕偏见和虚假信息指控的诉讼。
一旦黑盒AI造成的错误开始损害公司的声誉——甚至影响其底线！——我相信这种稳扎稳打的IBL将迎来它的辉煌时刻。我们在小学时就学到了“展示解题过程”的重要性，我们也完全有理由要求那些决定我们人生轨迹的人工智能具备同样的严谨性。