イベントから学ぶ最新技術情報

イベントから学ぶ最新技術情報

MSやPFNのAI技術最新情報からPost Kまで ― DLLAB DAY 2018 基調講演レポート

2018年6月29日

MSのAI技術の最新情報として「Windows MLアーキテクチャ」や「Azure Sphere」「Project BrainWave」など、PFNの事例や「Chainer MN」「Menoh」など、さらにABCIや「Post K」など、基調講演の注目ポイントをまとめる。

塩田紳二 塩田 紳二

 6月21日、都内でDLLAB Day 2018「深層学習を使いこなす日」が開催された。同イベントは、Deep Learning Labが1周年記念イベントとして行ったもの。Deep Learning Labは、マイクロソフトとPreferred Networksの協業として生まれた「ディープラーニングに関連する、開発事例や最新技術動向を情報発信するコミュニティ」(Deep Learning Labサイト)である。イベントは、基調講演とセッションから成るが、ここでは基調講演の模様をレポートする。

 基調講演を行ったのは、以下の3氏(登壇順)。

  • 榊原 彰 氏: 日本マイクロソフト株式会社 執行役員 最高技術責任者(CTO)マイクロソフト ディベロップメント株式会社代表取締役 社長
  • 西川 徹 氏: 株式会社Preferred Networks創業者 代表取締役社長 最高経営責任者
  • 松岡 聡 氏: 理化学研究所 計算科学研究センター センター長

 当初、金出武雄氏(カーネギーメロン大学)が登壇予定だったが、先の関西地区の地震によりご自宅が被災されたとのことで、急きょ、松岡氏が登壇することになった。当日、金出氏は、Skypeであいさつを行った。

日本マイクロソフト榊原氏の講演

 最初に講演を行ったのは、日本マイクロソフトの榊原氏(図1)。

図1 日本マイクロソフト株式会社 執行役員 最高技術責任者(CTO)マイクロソフトディロップメント株式会社代表取締役社長 榊原彰氏
図1 日本マイクロソフト株式会社 執行役員 最高技術責任者(CTO)マイクロソフトディロップメント株式会社代表取締役社長 榊原彰氏

 「Intelligent Cloud, Intelligent Edge & Real-time AI」とし、マイクロソフトのAI製品関連を中心に講演を行った。同社は、4月のハノーバーメッセに合わせ、Azure、IoT関連の製品を発表した。また、年内に登場するWindows 10の次期アップデートでは、機械学習を利用するための「Windows MLアーキテクチャ」(図2)を搭載する予定だ。

図2 次のWindows 10には、機械学習用のAPIなどが搭載される予定だという
図2 次のWindows 10には、機械学習用のAPIなどが搭載される予定だという

 同社は、Azure上で機械学習を利用する「Intelligent Cloud」と、それにつながる「Intelligent Edge」を作り、そこにWindows 10 IoTをベースとするさまざまなIoT機器を動作させ、そこでも機械学習の推論を可能にできるようにするという。また、このために新たに「Azure Sphere」(図3)と呼ばれる組み込み系のプラットフォームを提供する。これは、Cortex-Mクラスの組み込み向けの小さなプロセッサ向けのもので、Linuxカーネルを応用したものだという。マイクロソフトは、このAzure Sphereを、「Windows 10 IoT Core」(スマートフォンなどに使われているアプリケーションプロセッサクラスを対象)、「Windows 10 IoT Enterprise」(PCクラスのプロセッサ)と合わせることで、広範囲なIoTデバイスをカバーし、「Intelligent Cloud」、「Intelligent Edge」と接続する構想を持っている。

図3 マイクロソフトは従来のWindows 10 IoT(CoreとEnterprise)に加え、Azure Sphereと呼ばれる組み込み向けの小規模プロセッサ用のOSを開発した
図3 マイクロソフトは従来のWindows 10 IoT(CoreとEnterprise)に加え、Azure Sphereと呼ばれる組み込み向けの小規模プロセッサ用のOSを開発した

 また、クラウド側での機械学習の高速化については、ソフトウェアで構成を変更可能な半導体デバイスFPGA(field-programmable gate array)を使った「Project BrainWave」(図4)を紹介した。

図4 Project BrainWaveは、インテルのFPGAデバイスを応用したハードウェアDNNエンジン
図4 Project BrainWaveは、インテルのFPGAデバイスを応用したハードウェアDNNエンジン

 マイクロソフトは、Azureを構成するサーバーにFPGAを搭載(図5)し、これを利用して機械学習を高速化する。Project BrainWaveでは、FPGA同士が直接ネットワークに接続しており、複数のFPGAボード(Catapultと呼ばれる)を連携させることが可能。マイクロソフトによれば、グーグルのTPUよりも5倍も低いレーテンシー(遅延)が実現できたという。

図5 マイクロソフトがAzureで標準的に利用しているサーバーには、Catapultと呼ばれるカードが搭載され、CPUとは独立してネットワークを介して処理を行えるようになっている(CPUと接続しているのは、FPGAへのアルゴリズムの書き込みの必要があるため)。
図5 マイクロソフトがAzureで標準的に利用しているサーバーには、Catapultと呼ばれるカードが搭載され、CPUとは独立してネットワークを介して処理を行えるようになっている(CPUと接続しているのは、FPGAへのアルゴリズムの書き込みの必要があるため)。

Preferred Networks西川氏の講演

 次に登壇したのはPreferred Networks社の西川氏(図6)。

図6 株式会社Preferred Networks創業者 代表取締役社長 最高経営責任者 西川徹氏
図6 株式会社Preferred Networks創業者 代表取締役社長 最高経営責任者 西川徹氏

 自社の概要を説明した後、Automotive、Healthcare、Factory Robotが主要なビジネスであるとの解説を行った(図7)。これまでに行ってきた協業の例として、正常状態の機械の動作時の振動波形だけを学習させて、異常検出を行ったことや工作機械の熱変位補正をAIで予測、加工精度を40%向上させたことなどを示した。

図7 同社の注力領域は、Automotive、Healthcare、Factory Robotだという
図7 同社の注力領域は、Automotive、Healthcare、Factory Robotだという

 また、NTTコミュニケーションと国内最大のGPUクラスター(図8)を構築、1024基のNVIDIA Tesla P100で分散深層学習パッケージChainer MNを動作させている。これにより、これまで30分以上かかっていたImageNet-1Kの学習を15分で終了できるとした。

図8 Preferred Networksは、NTTコミュニケーションと協力して1024基のGPUが稼働するGPUクラスターを構築
図8 Preferred Networksは、NTTコミュニケーションと協力して1024基のGPUが稼働するGPUクラスターを構築

 また、新しい試みとして、ONNXで記述されたモデルで高速推論を行う「Menoh」(図9)を発表した。

 ONNXは、マイクロソフトやインテル、ARM、アマゾンなどが参加する機械学習のトレーニング済みモデル交換のための仕組み。Caffe2など著名な機械学習フレームワークで作成、学習させたモデルを、ONNX形式を間に入れることでさまざまなフレームワークへと出力できる。

 Menohは、C++で実装され、インテルCPUでの高速な推論が可能である。また、多言語ラッパーを利用することで、さまざまな環境で利用できる。この日より、GitHubで公開された。

図9 インテルCPUでの高速な推論を実現するONNXモデル推論エンジンMenohを発表
図9 インテルCPUでの高速な推論を実現するONNXモデル推論エンジンMenohを発表

理化学研究所 松岡氏の講演

 最後に登壇したのは、理化学研究所の松岡氏(図10)。

図10 理化学研究所 計算科学研究センター センター長 松岡聡氏
図10 理化学研究所 計算科学研究センター センター長 松岡聡氏

 同氏のこれまでの研究と、次世代のスーパーコンピューターである「Post K」について語る。東京工業大学で松岡氏が中心になり開発が進められたスーパーコンピューターTSUBAMEの話から始まり、今年夏に完成予定の世界最初の大規模オープンAIインフラストラクチャであるABCI(AI Bridging Cloud Infrastructure)についても触れる。大学や研究機関、企業などが利用できるAI研究用の施設であると同時に、設計そのものがオープンソースだという。

 そして京スーパーコンピューターの次世代となる「Post K」は、DNN(Deep Neural Network)の学習に必要な4階層の「並列性」をサポートでき、世界最大で最も速いDNNトレーニングのプラットフォームになるという(図11)。

図11 Post Kは、DNNトレーニングに対して4階層での並列化を提供し、世界最大最速のプラットフォームになるという
図11 Post Kは、DNNトレーニングに対して4階層での並列化を提供し、世界最大最速のプラットフォームになるという

 具体的には、数百ペタフロップスのピーク性能を持ち、京に採用された6次元トーラスネットワークTofuの後継となるTofu 3を搭載したプロセッサを多数搭載したシステムになる予定で、2020年以降の稼働を目標としている(図12)。

図12 2020年以降に稼働予定のPost Kは、現在の京スーパーコンピューターの後継で数百ペタフロップスのピーク性能を持つ
図12 2020年以降に稼働予定のPost Kは、現在の京スーパーコンピューターの後継で数百ペタフロップスのピーク性能を持つ

 そのプロセッサは、512bitのSVE(Scalable Vector Extensions)を持つXeonクラスのARMv8プロセッサ48個からなる計算コア、2また4のアシスタントコア(OS用)からなり、キャッシュとスクラッチパッド用ローカルメモリを持ち、3Dメモリでメモリバンド幅はTB/sレベル。また、チップ内バリヤー同期(ハードウェアによるチップ内のスレッド同期)などの機構を備えるという(図13)。

図13 Post Kのプロセッサは、512bitのベクトル演算機能を持つARMv8 64bitコアを48個持ち、Tofu 3インターコネクトを内蔵する
図13 Post Kのプロセッサは、512bitのベクトル演算機能を持つARMv8 64bitコアを48個持ち、Tofu 3インターコネクトを内蔵する

 このPost Kの完成により、日本のAI基盤は3年で400倍になるという(図14)。

図14 Post Kの完成で、昨年稼働した理研のAIスーパーコンピューターから3年で400倍の性能向上を達成できるとした
図14 Post Kの完成で、昨年稼働した理研のAIスーパーコンピューターから3年で400倍の性能向上を達成できるとした

 【編集部注】この基調講演の後、午後からは「3トラック×5コマ=15セッション」とハッカソンが開催された。各セッションは、より現場で生かせるノウハウや利活用のヒントが豊富に含まれる内容だったので、1万円と有償のイベントではあったが、初心者から、すでにデータサイエンティストや機械学習エンジニアとして活躍している人まで、満足できる内容だったのではないだろうか。

 今後、セッション動画なども公開されていく可能性はあると思うので期待したい。これについては公式サイトをウォッチしてほしいが、何か動きがあればDeep InsiderでもTwitterやFacebookでお知らせするので、興味がある方はぜひDeep InsiderのSNSフォローもぜひお願いしたい。

  • このエントリーをはてなブックマークに追加

※以下では、本稿の前後を合わせて5回分(第6回~第10回)のみ表示しています。
連載の全タイトルを参照するには、[この記事の連載目次]を参照してください。

イベントから学ぶ最新技術情報
6. 目指すべき今後の人工知能とは? パネルディスカッション ― データサイエンティスト協会 セミナー2018 第1回

データサイエンティスト協会は、2018年第1回目のセミナーを開催し、『深層学習はすべてを解決できるのか?』と『世界に根差す人工知能と協調による創造性』の2つのセッションと、それを踏まえてAIやデータサイエンティストについて議論するパネルディスカッションを行った。本稿はそのパネルディスカッションの内容を紹介する。

2018年4月27日(金)
イベントから学ぶ最新技術情報
7. 深層学習にはどんなデータが使えるのか? どれくらいのデータ量が必要か? ― DLLAB コミュニティ勉強会 2018Q2

「機械学習・深層学習に向くデータの種類」「PoC(概念実証)段階と実用段階でのデータ収集の違い」「実用段階で精度メンテナンス」「深層学習に必要なデータ量」「アノテーションのクラウドソーシング」「オープンデータ」に関して有識者がコメントしたパネルディスカッションの内容を紹介する。

2018年5月28日(月)
イベントから学ぶ最新技術情報
8. 企業から見たデータサイエンティストの採用と育成(パネルディスカッション)― データサイエンティスト協会 調査・研究委員会セミナー

データサイエンティストの採用で使われている3つのスキルセットや、人材育成のためのインターンシップと各スキルの育て方、データサイエンティストが満足する職場環境や評価制度などについての意見が聞き出された、データサイエンティスト協会主催セミナーのパネルディスカッション内容を紹介する。

2018年6月13日(水)
イベントから学ぶ最新技術情報
9. 【現在、表示中】≫ MSやPFNのAI技術最新情報からPost Kまで ― DLLAB DAY 2018 基調講演レポート

MSのAI技術の最新情報として「Windows MLアーキテクチャ」や「Azure Sphere」「Project BrainWave」など、PFNの事例や「Chainer MN」「Menoh」など、さらにABCIや「Post K」など、基調講演の注目ポイントをまとめる。

2018年6月29日(金)
イベントから学ぶ最新技術情報
10. グーグルのAI技術、2018年9月最新情報 ― Google Cloud Next ’18 in Tokyo 基調講演レポート

2018年現在、グーグルはAI分野でどんな技術やサービスを提供しているのか? Google Cloud Next ’18 in Tokyoの基調講演から、AIに関する部分を書き起こした。

2018年9月19日(水)
Deep Insider の SNS :

本コンテンツの目次

イベントから学ぶ最新技術情報
イベントから学ぶ最新技術情報

MSやPFNのAI技術最新情報からPost Kまで ― DLLAB DAY 2018 基調講演レポート


本コンテンツに関連する重要用語