ストックマーク9月25日、同社がフルスクラッチで開発した1000億パラメータの日本語大規模言語モデル「Stockmark-2-100B-Instruct（以下：Stockmark-2）」を、NVIDIAが提供する推論マイクロサービス「NVIDIA NIM マイクロサービス」で提供開始した。
「Stockmark-2」は、データの国外流出リスク防止や、国内の特定ニーズへの対応を目指して、日本発の「ソブリンAI」として独自に開発された。
今回「NVIDIA NIM マイクロサービス」で「Stockmark-2」が提供されることで、企業が生成AIの導入時に直面する「莫大なインフラ投資」や「複雑な環境構築」、「モデルの最適化」といった課題の解決を支援する。
また、NVIDIA AI Enterpriseソフトウェア スイートの一部であるNVIDIA NIM は、国内外のデータセンターやオンプレミス環境など、自社の管理下でLLMを運用することができ、機密情報や個人データの取り扱いなどセキュリティ課題にも有効だ。
加えて、NVIDIAが最適な運用を施した環境下でAI活用が可能なため、ユーザーは自社で行う保守運用を省力化することが可能になる。
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
