AI实验室将声誉押注于模型基准测试：信任危机与标准化之路

AI实验室将其声誉押注于模型基准测试——这是一种 supposedly 中立且准确的评估体系，旨在衡量一个AI产品是否优于另一个。

然而，Hugging Face的首席政策官Irene Solaiman上周在TechCrunch Disrupt的一场讨论中表示，这些评估背后的方法复杂且仍在成熟过程中。如果行业未来要依赖这些评估，测试需要整合成更一致的科学体系。

我们能否信任目前正在发布的测试？

Solaiman说：“‘信任’是一个分量很重的词。”“就我们是否能信任结果而言，很大一部分在于你能否复现评估结果？你是否拥有对模型本身所需的访问权限——这正是开放权重（open weights）大显身手的地方。”她补充道。

模型评估中的可复现性长期以来一直是基准测试中较为棘手的一个方面——并在行业内持续引发重大争议。

除了单个测试的有效性之外，还有一个额外的问题是：该测试如何与其他评估进行比较。

Solaiman说：“它们是一门不断演变的科学——我们不知道如何有意义地将它们相互比较。”

她补充道：“它们相对较快地变得无效，而我们缺乏所需繁荣的生态系统。”“现在人们渴望建立一个嵌入式评估者生态系统，但确定谁能在哪些任务中成为有效评估者的资格标准需要更多的标准化。”

嵌入式评估者与第三方解决方案的争议

嵌入式评估者的概念——即所谓的“中立”第三方观察者被置于AI组织内部——在过去几个月里得到了推广，因为AI实验室正努力应对一系列安全事件，这些事件引发了对其技术潜在危害的担忧。Hugging Face曾 famously 成为其中一起事件的靶子。

与通过主动的政府监管来识别和缓解模型安全问题不同，各实验室倾向于推动第三方解决方案。然而，人们对这些评估器是否真正中立或有效仍存疑虑。Anthropic决定聘请埃森哲作为其首个评估机构，引发了大量反对声浪，一些批评者嘲笑这家咨询公司具备胜任此项任务的能力。

从模型测试转向系统级评估

Soleiman分享称，评估工作现在正从仅仅测试模型本身，转向测试围绕模型的整个系统——包括 harness（工具）和 agent（智能体）。harness——即用户用来访问模型的工具——与模型的性能密切相关，因此一个较弱的模型如果拥有更好的 harness，很容易超越前沿模型。

Solaiman表示：“Agent评估真的很难，而且成本非常高。我们现在有更多的针对模型的评估……但我们针对 harness 的评估相对较少，我们正在开发更好的针对整体 agent 的评估方法——因为很多人正是从中获得价值。”她补充道。

换句话说：目前的评估领域有些混乱无序。如果基准测试要继续被视为行业领导者有用的工具，那么可能需要一种更统一、全行业的方法——让所有人达成共识。