OpenAIの700W Jalapeño ASICが1,400WのNvidiaフラッグシップGPUを凌駕 — 電力あたりのスループット最大1.9倍、レイテンシ3.6倍低減を主張、Broadcomと共同開発

Nvidiaがデータセンター向けに最大1050億ドルの融資を保証することに合意してからわずか1週間余り、OpenAIは火曜日にHot Chipsに登壇し、自社初の開発チップがNvidiaのGB300を凌駕するというbenchmarksを公開しました。OpenAIがBroadcomと共同開発した推論用ASIC「Jalapeño」は、SemiAnalysisの公開スイート「InferenceX」において、NvidiaのGB200およびGB300ラックシステムと比較して、1キロワットあたりのスループットが1.5倍から1.9倍高く、エンドツーエンドの遅延が1.7倍から3.6倍低いという結果を叩き出しました。これは、700Wのパーツが1,200Wおよび1,400W定格のアクセラレータに対抗した結果です。OpenAIは、今年後半に自社のデータセンターでこのチップの導入を開始する予定です。

テストでは、GPT-OSS 120B、DeepSeek R1 670B、そしてMoonshot AIの1兆パラメータモデルKimi K2.5の3つのオープンモデルが対象となりました。OpenAIは、低遅延の動作ポイントで最大のリードを報告しており、GB300の以前の最速タイム・ビトウィーン・トークン設定において、1キロワットあたり8.6倍から104.3倍のスループットを実現したと主張しています。

OpenAIは、各アクセラレータの公表されているパッケージTDPに合わせて結果を正規化しましたが、Jalapeñoのテスト時の実測連続消費電力は550W以下にとどまったとしています。アクセラレータあたりの総ユーティリティ電力（Jalapeñoの1.18kWに対しGB300は2.55kW）を用いた付録の比較では、差は縮まります。また、マルチトークン予測を実行するGB300とJalapeñoを比較した場合も同様で、ピーク効率のリードは約1.5倍に縮小します。

Tom's Hardwareからの最新ビデオ

Jalapeñoは、OpenAIが2026年後半に導入することに合意した最初の1ギガワット規模のNvidiaシステムを支える予定のプラットフォーム「Vera Rubin」との比較テストは行われませんでした。また、このチップはモデルの学習を行いません。学習ワークロードにおいては、Nvidiaのハードウェアは依然として無敵の存在です。さらに、主要な比較ではJalapeñoのシングルトークン予測とGB300の同様の設定を比較していますが、実際の運用環境でのNvidiaの導入事例ではマルチトークン予測が一般的です。OpenAIのラボで同社のエンジニアと共にInferenceXを実行したというSemiAnalysisは、このパーツを「これまでテストできたすべてのNvidia、AMD、Googleのチップを打ち負かしている」と評しました。