SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

イベントレポート

並列計算とクラウドによる分散システムが支える機械学習の最先端―ー「最強の計算資源で人間のクリエイティビティを全開に」【July Tech Festa 2018】

  • X ポスト
  • このエントリーをはてなブックマークに追加

改善・改良は日々行う

 PFNの分散学習クラスタは、これらの問題について日々改善を行っている。例えば、前述のベンチマークテストや大規模なリソースを使ったグランドチャレンジなどに対して、もっとカジュアルに対応したいと大村氏はいう。

グランドチャレンジ(講演スライドより引用)
グランドチャレンジ(講演スライドより引用)

 現在MesosとKubernetesの2つのスケジューラーを統合する計画もある。計画ではKubernetesへの統合を考えているそうで、Kubeflowコミュニティではchainer operatorプロジェクトを進めている。2つのInfiniBandは現在アイソレートされていない。帯域をコンテナごとに割り当てるようなQoS制御を実装したい要望もある。

 また、効率・柔軟・公平なスケジューリングのため、機械学習や強化学習を利用してスケジューリングさせる方法も考えている。CPUメモリ、GPU、通信チャネルの距離など、ハードウェアトポロジを考慮したスケジューリングも機械学習・強化学習スケジューリングの対象だとした。

より効率的・柔軟・公平なスケジューラ(講演スライドより引用)
より効率的・柔軟・公平なスケジューラ(講演スライドより引用)

 PFNの分散学習クラスタはオンプレミス環境のGPUを利用しているが、それでも足りなくなったとき、追加の計算リソースとしてパブリッククラウドの利用も積極的に考えたいとする。そして、これらの展開を考えるとき、忘れてはならないのは、OSSへの貢献だ。すでに多数のOSSプロダクツを利用しているPFNのクラスタ環境だが、機械学習やAIの共通の課題克服のため、成果の共有、OSSへのコミットを加速させたいとした。

人間のクリエイティビティを全開に

 最後に大村氏は、同じPFNの研究者である福田氏の言葉を借りて、現状のハイパフォーマンスコンピューティングの現状を「並列計算と分散システム(クラウド)という2つの技術の合流点に我々は立っている」と説明する。機械学習、深層学習の最先端の領域は、まさにクラスタリングとクラウドコンピューティングの2つの技術によって支えられている。

 ニューラルネットが重畳する深層学習では、双方の技術の融合が求められている。過去に並列処理とハイパフォーマンスコンピューティングの学術分野は、ハードウェアのクラスタかネットワークを利用した分散型かで議論されたことがある。機械学習という領域では、その2つが再び融合しようとしていると考えると重みのある言葉だ。

 大村氏は続けて、最終的なボトルネックはおそらく人間の創造性だとする。「最強の計算資源で人間のクリエイティビティを全開にしたい」と述べて講演を終えた。

「最強の計算資源で人間のクリエイティビティを全開にしたい」と、大村氏(講演スライドより引用)

「最強の計算資源で人間のクリエイティビティを全開にしたい」と、大村氏(講演スライドより引用)

この記事は参考になりましたか?

  • X ポスト
  • このエントリーをはてなブックマークに追加
イベントレポート連載記事一覧

もっと読む

この記事の著者

中尾 真二(ナカオ シンジ)

フリーランスのライター、エディター。アスキーの書籍編集から始まり、翻訳や執筆、取材などを紙、ウェブを問わずこなす。IT系が多いが、たまに自動車関連の媒体で執筆することもある。インターネット(とは当時は言わなかったが)はUUCPの頃から使っている。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

  • X ポスト
  • このエントリーをはてなブックマークに追加
CodeZine(コードジン)
https://codezine.jp/article/detail/11062 2018/09/05 14:00

おすすめ

アクセスランキング

アクセスランキング

イベント

CodeZine編集部では、現場で活躍するデベロッパーをスターにするためのカンファレンス「Developers Summit」や、エンジニアの生きざまをブーストするためのイベント「Developers Boost」など、さまざまなカンファレンスを企画・運営しています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング