OpenAI的Jev克隆或将帮助该前沿实验室控制群集智能体

在周二的 OpenAI Dev Day 活动中，最引人注目的发布之一来自首席执行官 Sam Altman 的随口一提，他透露了公司新的 “Decisions API”。

该 API 显然提供了与 Jev 类似的功能，后者是 TypeSafe AI 在本月早些时候发布的一个模型，专门为软件自动化设计。作为一个建立在 LLM 之上的超强分类器，开发者可以给 Jev 一组选项，它能以极高的速度和低廉的价格将其输出为概率。

OpenAI 的 Decisions API 似乎也是同类产品。在活动中，Altman 将该 API 描述为一种给实验室的 Luna 模型提供预定义选项集供其选择的方式，例如图像分类的类别或不同的智能体行为。

“通过让模型专注于该选择，我们可以在保持图像理解、广泛语言支持和安全保护等能力的同时，让它变得极快，”Altman 说道。

TypeSafe 未回应 TechCrunch 关于新产品的问题，但其首席执行官 Diogo Almeida（曾是 OpenAI 工程师，也是强化学习的共同发明人）在 X 上开玩笑说克隆战争开始了。

他补充说，OpenAI 的兴趣可能是一个“信号……即以 System One 兼容的方式进行构建才是未来”。（“System One”是 TypeSafe 对快速、直觉性思维的专业术语，而“System 2”则适用于审慎推理。）

这里的潜台词是，我们所熟知的 LLM 对于许多软件来说并不是正确的解决方案，因为它们相对缓慢且昂贵。开发者一直在使用 Jev 来增强 LLM，并在此过程中发现它们更快、更便宜。

目前尚不清楚 Decisions API 与 Jev 有多相似，因为 OpenAI 仅发布了限量预览版，且到目前为止，TechCrunch 尚未发现有开发者对其进行全面测试。然而，根据 X 上的讨论，兴趣显然非常浓厚。

Decisions API 并不是互联网上唯一类似 Jev 的 API —— 其他初创公司也在推出类似的模型；OpenAI 不会是最后一个生产这种模型的科技巨头。一个关键问题是，这些决策模型的输出与现实生活的契合度将如何。

Almeida 表示，他公司的护城河是其为了生成统计学上有用的输出而创建的合成数据。

“你知道，快和便宜非常容易，”Almeida 上周告诉 TechCrunch。“如果你真的想要又快又便宜，用骰子就行了，对吧？智能才是难点，而我的‘北极星’始终是推动单位成本智能的 Pareto 曲线。”

仅仅几周后，这些模型的前景似乎已经明朗，一个可能的应用是监控和保护 AI 智能体。在发生了一系列智能体在开放互联网上行为失当的事件后，OpenAI 采取的一项新安全措施是使用一个独立的模型来监控不良行为，但这需要“巨大的计算成本”。

领导初创公司 QueryStory 的资深网络安全专家 Shapor Naghibzadeh 认为，像 Jev 这样的模型可以以更低的成本实现这一点。

他为上周末举行的一场黑客松构建了一个演示项目，该项目使用 Jev 来检查每个智能体行为是否符合其被赋予的任务，拦截高度可信的错误行为，标记其他行为待审，并允许其余行为通过。

理论上，这种监控本可以阻止 Hugging Face 事件 —— 而这种监控如果使用 Jev 仅需花费 2.94 美元，而使用前沿 LLM 则需花费 372 美元。

一个关键的观察结果是，Jev 的成本可以说足够低，可以运行在每个智能体行为上，这提供了一层审查，从而可以从整体上提高智能体的可靠性。这正是 TypeSafe 希望实现的 —— 而现在 OpenAI 也看到了其中的价值。