SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

CodeZineニュース

HPCシステムズ、テキスト生成にフォーカスしたLLMフルファインチューニング環境の提供を開始

  • X ポスト
  • このエントリーをはてなブックマークに追加

  • X ポスト
  • このエントリーをはてなブックマークに追加

 HPCシステムズは、台湾のPHISON Electronicsが開発した独自技術「aiDAPTIV+」搭載GPUサーバ・ワークステーションの提供を、1月23日に開始した。

 今回、提供が開始された「aiDAPTIV+」搭載GPUサーバ・ワークステーションは、テキスト生成(NLP)にフォーカスしており、Llama 3.x(8B〜70B)やGemma2(9B・27B)といったLLMをフルファインチューニングできる環境を、PoC段階から低コストで導入することが可能になる。

 マルチモーダルに対応せず、テキスト処理に最適化した構成によって高い学習効率を実現しており、チャットボット、文書要約、翻訳といったビジネスニーズの高いNLPタスクを中心としたDX推進を加速する。

 PHISONの独自技術によって、GPU VRAMを超える大規模モデルをシステムメモリとSSDで補いつつ学習し、Llama 3.x(8B〜70B)やGemma2(9B・27B)といった多彩なモデルに対応しており、単一ノード構成でまずPoCを行い、成果が確認できれば必要に応じてGPUやメモリを追加して、大規模LLMに移行するといった構成も可能なので、初期段階から巨額投資を強いられず、中小企業や研究機関でも無理なくAI活用を始められる。

 複雑なセットアップやパラメータ調整は、ノーコードGUIや専用ミドルウェアが一体化してサポートしてくれるため、AI分野に不慣れなチームでも短期間でフルファインチューニングをスタートできる。

 おもな製品としては、Intel Xeon w5-3525とNVIDIA RTX 6000 Adaをベースに、NVMe Gen4 4TBのSSDを搭載した水冷式ワークステーション「HPC3000-XSRGPU4TP-LC」を用意する。メモリ容量とGPU枚数、aiDAPTIV+キャッシュ用SSDの容量など、用途や想定モデル規模に合わせた柔軟な構成のカスタマイズが可能となっている。

関連リンク

この記事は参考になりましたか?

  • X ポスト
  • このエントリーをはてなブックマークに追加
この記事の著者

CodeZine編集部(コードジンヘンシュウブ)

CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

  • X ポスト
  • このエントリーをはてなブックマークに追加
CodeZine(コードジン)
https://codezine.jp/article/detail/20847 2025/01/27 16:00

おすすめ

アクセスランキング

アクセスランキング

イベント

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング