Hugging Face 政策主管：嵌入式 AI 评估器并非易事

AI 实验室已将其声誉押注于模型基准测试——这是一个据称中立且准确的评估系统，旨在衡量一个 AI 产品是否优于另一个。

然而，Hugging Face 的首席政策官 Irene Solaiman 在上周的 TechCrunch Disrupt 讨论中表示，这些评估背后的方法非常复杂且仍处于成熟阶段。如果行业未来要依赖这些测试，测试需要整合成为一门更一致的科学。

考虑到这一点，我们能相信目前发布的测试吗？

““信任”是一个非常有分量的词，”Solaiman 说道。“就我们是否可以信任结果而言，其中一个重要部分是你能否复现评估结果？你是否拥有对模型本身的必要访问权限——这正是开放权重发挥重要作用的地方，”她补充道。

模型评估的可复现性长期以来一直是 基准测试中比较棘手的方面 之一——并且仍然是业内备受争议的话题。

除了单项测试的有效性外，还有一个额外的问题，即该测试与其他评估相比如何。

“它们是一门不断发展的科学——我们还不知道如何有意义地将它们进行相互比较，”Solaiman 说道。

“它们很快就会开始失效，而且我们还没有拥有所需的蓬勃发展的生态系统，”她补充道。“现在人们对嵌入式评估者生态系统充满了渴望，但确定谁在哪些任务中是有效评估者的资质需要更多的标准化。”

嵌入式评估者的想法 —— 即据称“中立”的第三方观察员被安置在 AI 机构内部 —— 在过去几个月中已经普及，因为 AI 实验室正在应对 一系列安全事件，这些事件引发了人们对其技术潜在危害的担忧。Hugging Face 曾是其中一起事件的著名目标。

实验室没有通过政府的积极监管来识别和减轻模型安全问题，而是推动了第三方解决方案。然而，对于这些评估者的实际中立性或有效性，人们仍然存有疑虑。Anthropic 聘请 Accenture 作为其第一位评估者的决定引发了相当大的反弹，一些 批评者嘲讽 该咨询公司是否有资格完成手头的任务。

评估现在正从仅仅是对模型本身的测试，转向对模型周边整个系统的测试——包括 harness 和智能体。Solaiman 分享道，harness——即用户用来访问模型的工具——具体来说，与模型的性能有很大关系，而一个拥有更好 harness 的较弱模型很容易表现得比前沿模型更好。

“智能体评估非常困难且昂贵，”Solaiman 说。“我们对模型的评估较多。……我们对 harness 的评估没有那么多，而我们正在为整体智能体开发更好的评估——因为那是许多人获得价值的地方，”她补充道。

换句话说：目前的评估领域有点乱象丛生，如果基准测试要继续被行业领导者视为有用的工具，那么可能需要一种更统一、全行业的方法——让每个人都达成共识。