科技巨头的 AI 审计机构只能看到被展示的内容

公平地讲，OpenAI 最初确实允许了这种测试。但这表明，公司选择分享的内容是多么重要。

一个训练好的 AI 模型本质上是一个包含大量数字的文件，其制作成本通常超过 $100 million，而且谁拥有副本谁就拥有了该模型。将副本交给外人是一个安全风险。直到最近，这给测试人员留下了一个尴尬的选择，Google DeepMind 曾对此有过很好的描述：要么测试人员交出他们的问题，让公司提前看到考试内容；要么公司交出其模型。

今年 8 月，DeepMind 展示了一种绕过该问题的方法。通过与 Singapore 的 AI Safety Institute 以及其他三个外部团体合作，它运行了所谓的全球首个 AI 模型双盲测试，其原理与药物双盲试验相同。测试在密封的计算机硬件上运行，因此外部测试人员从未见过模型，Google 也从未见过他们的问题。Google 表示，每一方都可以通过数学方式检查其资料是否保持私密。

这也将信任转移到了硬件上。去年，研究人员使用成本不到 $1,000 的设备破解了这种密封硬件，尽管他们需要物理接触服务器才能做到这一点。这值得认真对待。但与“我们不能让任何人靠近模型”相比，这是一个小得多的问题，而且可以通过谨慎管理谁来控制机器来解决。