中国のAIスタートアップ企業StepFunは、7月31日、マルチモーダル推論モデル「Step3」をオープンソースでリリースした。
Step3は、Mixture-of-Expertsアーキテクチャを基盤とし、合計321Bのパラメータと38Bのアクティブパラメータを備えている。20兆以上のトークン（うち4兆がマルチモーダル）でトレーニングされ、徹底したデータキュレーションによってハルシネーションを軽減。
Multi-Matrix Factorization Attention（MFA）とAttention-FFN Disaggregation（AFD）の協調設計によって、一般的なGPUでも効率的に推論を実現する。
Step3のAPIは、StepFunの公式プラットフォームから入手でき、OpenAIと互換性のあるAPIが提供されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
