OpenAIは8月25日(現地時間)、初の独自AI推論チップ「Jalapeño」の初期評価結果を発表した。Jalapeñoは、電力1ワットあたりのAI処理能力向上と応答速度の低減を同時に達成する設計となっており、既存ハードウェアが抱えるスループットとレイテンシのトレードオフを克服したと示した。
Jalapeñoの性能は、GPT-OSS 120B、DeepSeek R1(670B)、Kimi K2.5 1Tなど、OpenAI内外の主要モデルで計測され、電力効率とスループット、レイテンシの全てで従来システムを上回る結果となった。各モデルに対し、Jalapeñoはピークスループット時で従来比較システムの1.5~1.9倍のAI処理/ワット、エンドツーエンドのレイテンシを1.7~3.6倍低減を記録した。特に高い対話性を要求されるワークロードでは、2.1~4.1倍の性能向上が示された。
設計面でもJalapeñoはメモリ構成やネットワーク、ソフトウェアなどシステム全体を一体的に最適化。AIを開発の直接の支援とし、人間による並列プログラミングをAIが補助する仕組みを導入することで、設計からテープアウトまで9カ月、複数の追加モデルへの最適化も2カ月で完了したとされる。
今後、OpenAIは年内にJalapeñoを自社インフラへ導入予定としており、複数世代の開発も進行中と明かした。NVIDIAなど外部パートナー製アクセラレータも併用し、需要増に対応する方針だ。JalapeñoによるAI処理の効率化と低レイテンシ化は、今後のAIサービスの拡張やコスト削減を支援する。
- 関連リンク
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか?
この記事をシェア
