Posts Taged chainer

ODSC East 2018で、Chainerが Open Source Data Science Project賞を受賞

Open Source Data Science Project賞は、データサイエンス分野への顕著な貢献が認められたプロジェクトに授与される賞で、昨年はPandas Project と scikit-learnが受賞しています。今年は、“define by run”による動的で柔軟なニューラルネットワーク定義が評価され、Chainerが受賞しました。

 

 

 

Chainerは次のように評価されました:

Chainerは、柔軟で直感的なPythonベースのニューラルネットワークのフレームワークで、「アルゴリズムと深層学習の実装との間のギャップを埋める」ことに努めています。 Chainerは、フレームワークとして“define by run”を初めて採用し、ニューラルネットワークを動的に定義することができます。Chainerは柔軟性を重要な特徴にしているため、他のフレームワークでは難しいカスタマイズが可能であり、CPUやGPUでの計算もサポートしています。

https://opendatascience.com/odsc-east-2018-open-source-data-science-project-award-winner-the-chainer-framework/

 

Open Data Science Conference (ODSC)について

ODSCはデータサイエンスコミュニティに繋がり、日々使用するオープンソースアプリケーションに貢献するためのカンファレンスです。革新的なアイディアの交換を促し、OSSの発展を促進するために、国際的なデータサイエンスコミュニティを一つにまとめることを目的としてます。

 

オープンソースの深層学習フレームワークChainerについて

Chainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”の手法を通じてユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計するための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングがもたらすメリットを現実世界のアプリケーションや研究に活用するための柔軟なフレームワークを求める産業界の多くのユーザーに支持されています。
Chainerは、最新の深層学習研究の成果を迅速に取り入れ、ChainerMN(分散深層学習)/ChainerRL(強化学習)/ChainerCV(コンピュータ・ビジョン)などの追加パッケージ開発、Chainer開発パートナー企業のサポートなどを通して、各分野の研究者や実務者の最先端の研究・開発活動を支援していくことを目指しています。(http://chainer.org/)

オープンソースの深層学習フレームワークChainer および 汎用配列計算ライブラリCuPy の最新版となるv4をリリース

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川徹、プリファードネットワークス、以下、PFN)は、オープンソースの深層学習フレームワークChainerTM(チェイナー)および汎用配列計算ライブラリ CuPyTM(クーパイ) のメジャーアップデート版となるv4 をリリースしました。

Chainer とCuPyは、最新の深層学習研究の成果を取り入れ、6ヶ月ぶりにメジャーバージョンアップをしました。今回リリ―スした最新版 v4では、ほとんどのコードを変更することなくそのまま動作可能です。

 

Chainer およびCuPy v4の主な特長は次の通りです。

● NVIDIA(R) GPU上での高速・省メモリな学習のための機能追加※1

NVIDIA TensorCoreをサポートし、畳込み演算を高速化しました。また、ロススケーリングを実装し、半精度浮動小数点数を用いることによる勾配消失を緩和しました。

● CuPy のインストールが高速化

CuPyのバイナリパッケージの提供を開始し、これまで約10分かかっていたインストール時間を約10秒に高速化しました。

● Intel(R)アーキテクチャ向け最適化

Intel Deep Learning Package (iDeep)※2バックエンドを追加して、Intel CPUでの学習および推論の高速化を実現しました。これにより、当社のベンチマークにおいて、GoogLeNet(画像認識用のニューラルネットワークのひとつ)でのCPU使用時の推論速度が従来比8.9倍に向上※3しました。

● 二階微分をサポートする関数をさらに追加

v3から導入された二階微分のサポート範囲が広がり、最新のネットワークやアルゴリズムを記述する自由度がさらに向上しました。

Chainerでの学習結果をCaffe 形式でエクスポートする機能を追加

Chainerの計算手順と学習した重みをCaffe形式でエクスポートする機能を実験的に追加しました。これにより、Pythonが動かない環境でもChainerの学習結果の利用が容易になります。(ONNX形式へのエクスポートは引き続きonnx-chainerパッケージにて利用可能です)

 

 

ChainerおよびCuPyの開発は、外部コントリビュータの開発成果を数多く取り入れています。PFNは今後も、サポート企業やOSSコミュニティと連携しながらChainerとCuPyの開発・普及を推進してまいります。

 

※1:http://docs.nvidia.com/deeplearning/sdk/mixed-precision-training/index.html

※2:Intel CPU上で深層学習の一般的な演算を高速に実行するためのNumPy互換のライブラリ   https://github.com/intel/ideep

※3:1枚の画像に対する処理時間をiDeep有効時・無効時で比較した結果。いずれの条件でもMKL(Intel Math Kernel Library)は有効。CPUは Intel Xeon(R) CPU E5-2623 v3 を使用。

 

オープンソースの深層学習フレームワークChainerについて

PFNが開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”の手法を通じてユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計するための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングがもたらすメリットを現実世界のアプリケーションや研究に活用するための柔軟なフレームワークを求める産業界の多くのユーザーに支持されています。

Chainerは、最新の深層学習研究の成果を迅速に取り入れ、ChainerMN(分散深層学習)/ChainerRL(強化学習)/ChainerCV(コンピュータ・ビジョン)などの追加パッケージ開発、Chainer開発パートナー企業のサポートなどを通して、各分野の研究者や実務者の最先端の研究・開発活動を支援していくことを目指しています。(http://chainer.org/

Preferred Networks、深層学習の学習速度において世界最速を実現

大規模な並列コンピュータを活用し、分散学習パッケージChainerMNでImageNetの学習を15分で完了

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川徹、プリファードネットワークス、以下、PFN)は、大規模な並列コンピュータ「MN-1※1」を活用し、深層学習(ディープラーニング)の学習速度において世界最速を実現しました。

 

深層学習モデルの精度を向上させるため、学習データのサイズやモデルのパラメータ数が増加し、それにともなって計算時間も増大しています。1回の学習に数週間かかることも稀ではありません。複数のコンピュータを連携させて学習を高速化することは、新たなアイディアの試行錯誤や検証に要する時間を圧縮し、素早く研究成果をあげていくために非常に重要です。

一方で、複数のコンピュータを使った並列分散学習においては、通常、GPU数を増やすほどバッチサイズが大きくなることに加え、GPU間の通信にオーバーヘッドが存在することで、得られるモデルの精度や学習スピードが徐々に下がっていくことが知られています。

今回、これらの課題を克服するため、学習アルゴリズムと並列化性能の改善をおこない、1,024GPUで構成される民間企業で国内最大級の並列コンピュータMN-1と、分散学習パッケージ ChainerMN※2(チェイナー・エムエヌ)を用いて学習を行いました。

その結果、ImageNet※3の画像分類データセットを利用したResNet-50※4の学習を15分で完了し、同様の研究報告※5としてこれまで最速とされていた学習時間を大幅に短縮しました。

今回の研究成果は「Extremely Large Minibatch SGD: Training ResNet-50 on ImageNet in 15 Minutes」というタイトルで、次のURLで公開しました。 (https://www.preferred-networks.jp/docs/imagenet_in_15min.pdf)

PFNはこの研究成果をいかして、大規模な深層学習を必要とする交通システム、製造業、バイオ・ヘルスケア分野での研究開発をより一層加速させていきます。

 

■ オープンソースの深層学習フレームワークChainerについて

PFNが中心となって開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークであり、“Define-by-Run”の手法を通じて簡単かつ直感的に複雑なニューラルネットワークを設計できる高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化され、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングがもたらすメリットを現実世界のアプリケーションや研究に活用するための柔軟なフレームワークを求める産業界の多くのユーザーに支持されています。

Chainerは、最新の深層学習研究の成果を迅速に取り入れ、ChainerMN(分散深層学習)/ChainerRL(強化学習)/ChainerCV(コンピュータ・ビジョン)などの追加パッケージ開発、Chainer開発パートナー企業のサポートなどを通して、各分野の研究者や実務者の最先端の研究・開発活動を支援していくことを目指しています。(http://chainer.org/

 

■ 株式会社Preferred Networksについて

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、イノベーションの実現を目指しています。(https://www.preferred-networks.jp/ja/

 

*Chainer(R) は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。

 

※1 NVIDIA(R) Tesla(R) P100を1,024基搭載。民間企業のプライベートな計算環境で国内最大級 https://www.preferred-networks.jp/ja/news/pr20170920

※2 オープンソースの深層学習フレームワークChainer(チェイナー) にマルチノードでの分散学習機能を追加するパッケージ

※3 一般に広く使われている画像分類データセット

※4 画像認識の分野で多用されるネットワーク

※5 Intel(R) Xeon(R) Platinum 8160を1,600台使用して31分で学習完了(Y. You et al. ImageNet Training in Minutes. CoRR,abs/1709.05011, 2017)

オープンソースの深層学習フレームワークChainer v3 およびNVIDIA GPU向け行列計算ライブラリCuPy v2をリリース

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川徹、プリファードネットワークス、以下、PFN)は、オープンソースの深層学習フレームワークChainer(R)(チェイナー)のメジャーアップデート版となる Chainer v3 およびNVIDIA(R) GPU向け行列計算ライブラリ CuPy™(クーパイ) v2 をリリースしました。

Chainer は、最新の深層学習研究の成果を迅速に取り入れ、3ヶ月ごとにメジャーバージョンアップをしています。今回リリ―スした Chainer v3では、ほとんどのコードを変更することなくそのまま動作可能です。

Chainer v3およびCuPy v2の主な特長は次の通りです。

1. 二階以上の自動微分をサポート
Chainer が自動微分を提供する多くの関数で、二階以上の微分もサポートしました。深層学習において二階微分が必要となる一部の手法が、論文にかかれている数式の通り簡単に実装できるようになります。

2. CuPy のメモリアロケータが改善
多くのニューラルネットにおいてGPU 利用時のメモリ使用効率が大幅に改善され、場合によってはメモリの再アロケーションが抑えられ速度も向上します。

3. CuPy に疎行列のサポートを追加
これまで GPU 上で実装するコストが高かった大規模なグラフ解析や自然言語処理をより簡単に実装することができます。

 

◆ Chainer ReleaseNote: https://github.com/chainer/chainer/releases/tag/v3.0.0

 

Chainer v3においても、これまで同様に外部コントリビュータの開発成果を数多く取り入れさせていただきました。PFNは今後も、サポート企業やOSSコミュニティと連携しながらChainerの開発と普及を推進してまいります。

 

◆ オープンソースの深層学習フレームワークChainerについて
PFNが開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”の手法を通じてユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計するための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングがもたらすメリットを現実世界のアプリケーションや研究に活用するための柔軟なフレームワークを求める産業界の多くのユーザーに支持されています。
Chainerは、最新の深層学習研究の成果を迅速に取り入れ、ChainerMN(分散深層学習)/ChainerRL(強化学習)/ChainerCV(コンピュータ・ビジョン)などの追加パッケージ開発、Chainer開発パートナー企業のサポートなどを通して、各分野の研究者や実務者の最先端の研究・開発活動を支援していくことを目指しています。(http://chainer.org/

 

*Chainer(R) およびCuPy™は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。

Preferred Networks、民間企業の計算環境として 国内最大級のプライベート・スーパーコンピュータを9月から稼働

NTT Comグループのマルチノード型GPUプラットフォームを採用

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長 最高経営責任者:西川 徹、以下:PFN)は、自動運転技術やがん診断をはじめとした深層学習(ディープラーニング)などの研究開発用プライベート・スーパーコンピュータを、2017年9月より稼働しました。このスーパーコンピュータは、NTTコミュニケーションズ株式会社(本社:東京都千代田区、代表取締役社長:庄司 哲也、以下:NTT Com)と株式会社NTTPCコミュニケーションズ(本社:東京都港区、代表取締役社長:田中 基夫、以下:NTTPC)の高速演算処理(GPU)プラットフォームを採用し、計算ノードにはNVIDIA(R)製 Tesla(R) P100 GPUを1,024基搭載しています。民間企業のプライベートな計算環境としては、国内最大級となります。

 

1. 背景と狙い

PFNでは、深層学習の研究開発や関連技術の迅速な実用化のため、最新GPUによる、高速かつ潤沢な計算環境が必要でした。また、GPUの稼働にあたっては高電力の確保、排熱処理、ネットワークの高速化が課題でした。これらの課題を解決するため、PFNは、GPUサーバーにおける高い技術力と豊富な実績、最先端のデータセンター構築ノウハウを持つNTT Comグループのマルチノード型GPUプラットフォームを採用し、PFN独自の並列分散学習技術ChainerMN※1を活用するための大規模なマルチノードの深層学習用研究開発基盤※2を構築しました。

 

2. PFNのプライベート・スーパーコンピュータの概要

(1)民間企業のプライベートな計算環境として国内最大級

最先端のマルチノード技術を活用しており、NVIDIA(R)製 Tesla(R) P100 GPUが1,024基稼働しています。理論上のピーク性能は4.7ペタフロップス※3で、これは、民間企業のプライベートな計算環境として、国内最大級です。

(2) NTT Comグループならではの実現力

NTT Comグループは、GPUのパフォーマンスを最大化するための豊富な構築ノウハウや、世界トップレベルの信頼性を誇るデータセンターサービス「Nexcenter™」および「Enterprise Cloud」の構築実績を活かし、マルチノード型GPUプラットフォームを実現・提供しています。

 

3. 今後の展開について

PFNは今回構築したプライベート・スーパーコンピュータを活用し、オープンソースの深層学習フレームワークChainer(R)の高速化を進めます。さらに、大量の計算資源を必要とする交通システム、製造業、バイオ・ヘルスケア分野での研究開発をより一層加速させます。また今後は、次世代GPU「Volta」ベースのNVIDIA(R)製Tesla(R) V100の導入も検討予定です。

NTT Comグループは、今後もAI関連技術やそれを支えるインフラの提供を通して、深層学習技術の研究や商用での積極的な利活用をサポートし、PFNのAIビジネスを支援していきます。

 

4. NVIDIA 日本代表 兼 米国本社副社長 大崎 真孝のコメント

現代AIのコアテクノロジーであるディープラーニングにおいて、計算パワーは競争力の源であり、NTT Comグループ様との協業によりPreferred Networks様がこのようなプライベート・スーパーコンピュータを構築されたことは、Preferred Networks様をはじめとして、日本の国力強化にも大いに貢献するものと期待しております。

 

※1: 複数ノードを並列協調動作させることにより、深層学習の速度を飛躍的に高めることができる技術

※2: 複数のサーバーをあたかも仮想的に1台の大規模サーバーに見立て、PFN独自の技術(ChainerMN)を活用するためのプラットフォーム

※3: コンピュータの処理能力を表す単位の一つ。peta (ペタ) は1000兆(10の15乗)、FLOPS (フロップス) は1秒間に行える浮動小数点演算の回数を表すので、1ペタフロップスは毎秒1000兆回の浮動小数点演算を行えることを意味する。

※Chainer(R)は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。その他、記載されている会社名、製品名は、各社の登録商標または商標です。

 

■ 株式会社Preferred Networksについて

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、イノベーションの実現を目指しています。

オープンソースの深層学習フレームワークChainer(チェイナー)の開発・提供をはじめ、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、先進的な取り組みを推進しています。(https://www.preferred-networks.jp/ja/

 

■ NTTコミュニケーションズ株式会社について

1999年に設立。全世界40以上の国/地域、110以上の都市に拠点を持ち、190以上の国/地域でグローバルネットワークサービスを提供。通信事業者ならではの高品質なインフラと技術を活かし、クラウド、コロケーション、アプリケーション、セキュリティなどの多岐にわたるICTサービスを展開しています。また、Software Defined技術を活用した新たなサービスとマネージドサービスの提供によって、お客さまのデジタルトラスフォーメーションに貢献するとともに、AIやIoTを用いた新たなビジネスの創出に取り組んでいます。(http://www.ntt.com/)

 

■ 株式会社NTTPCコミュニケーションズについて

株式会社NTTPCコミュニケーションズ(NTTPC)は、1985年に設立されたNTTコミュニケーションズのグループ会社であり、日本の通信市場におけるネットワークサービスおよび通信ソリューションプロバイダーです。NTTPCは、1995年にNTTグループの第1世代ISPサービス「InfoSphere」を開始し、1997年に日本の第1世代インターネットデータセンターとサーバーホスティングサービス「WebARENA」を開始しました。NTTPCは、NTTグループの企業向けインターネットサービスの先駆者として常にICT市場に対して、新しいサービス・ソリューションを開拓しています。(http://www.nttpc.co.jp/)

マルチノードでの分散学習パッケージChainerMN 正式版 v1.0.0 をリリース

データ並列のコア機能の安定化と、さらなる高速化を実現

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長 最高経営責任者:西川徹、以下、PFN)は、オープンソースの深層学習フレームワークChainer(チェイナー) に、マルチノードでの分散学習機能を追加するパッケージ ChainerMN ※1(チェイナー・エムエヌ)正式版 v 1.0.0 をリリースしました。

機械学習・深層学習技術の実用化に向け、より大きなデータを活用し、より精度の高い学習モデルを実現するために、学習に使われるモデルのパラメータ数や計算量が増大しています。

ChainerMNは、1ノード内の複数GPUまたは複数ノード間の両方での高速な通信により大規模分散深層学習を実現する、Chainer の追加パッケージです。PFNは2017年5月9日にChainerMN のβ版をリリースしており、今回は初の正式版のリリースとなります。ChainerMN v1.0.0 は、以下の機能が追加されています。

 

● ChainerMN v1.0.0 の特長

1. データ並列のコア機能の安定

安定性が向上したことにより、安心してご利用いただけます。

 

2. マルチGPUの集合通信ライブラリNVIDIA NCCL 2.0 をサポート

最新バージョンに対応したことで、より高速化しました。

 

3. サンプルコードの拡充(機械翻訳、DCGAN)

より先進的なChainerMN の使い方をサンプルを見て学ぶことが可能になりました。

 

4. 対応環境の拡充(非CUDA-AwareなMPIへの対応)

これまではOpen MPI, MVAPICH など、CUDA-Aware MPIの対応が必要でしたが、それ以外の環境でもChainerMN をご利用いただけます。

 

5. モデル並列機能の実験的サポート

複数GPUをこれまでと異なるモデル並列で連携させることで、より複雑な分散学習ができるようになりました。従来の手法(データ並列)では、精度を保ったまま使用ノード数を上げていこうとすると、実質的なバッチサイズに限界があることが知られています。これを克服して、さらなる速度向上を図るため、より挑戦的な手法であるモデル並列の一部を実験的に実装しています。

 

これらの機能により、ChainerMN での学習の安定化と、さらなる高速化の実現、ユーザビリティの改善を行っています。

以下は、ImageNetの画像分類データセットを使ったChainerMN の性能測定の結果です。今年1月の発表時からは約1.4倍、5月に公開したβ版からは1.1倍高速という結果になりました。実験設定の詳細についてはこちらをご覧ください。

https://chainer.org/general/2017/02/08/Performance-of-Distributed-Deep-Learning-Using-ChainerMN.html

また、ChainerMN は2017年10月より、エクストリームデザイン株式会社(本社:東京都品川区、代表取締役:柴田 直樹)が提供するクラウドスパコン構築運用無人化サービス「XTREME DNA」で利用できるようになります。従量課金のパブリッククラウド Microsoft Azure のGPUインスタンスの分散並列環境テンプレートにChinerMN が追加されるため、大規模分散深層学習に必要なインフラ周りの環境構築が不要になるだけでなく、研究開発コストの管理も容易になります。

ChainerMN は、深層学習研究者・開発者がニューラルネットワークの設計にはじまる研究開発の主要部分に注力しやすい環境の提供を目指し、今後も継続的に機能追加、対応環境の拡充を進めてまいります。

 

■ オープンソースの深層学習フレームワークChainerについて  http://chainer.org/

PFNが開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”アプローチによりユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計し、学習させるための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングの最新研究成果をいち早く現実世界のアプリケーションに活用するためのフレームワークを求める産業界においても、多くのユーザーに支持されています。

オープンソースの深層学習フレームワーク Chainer の最新版となるChainer v2をリリース

学習時のメモリ使用効率の大幅な改善など、機能強化を実施

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川 徹、プリファードネットワークス、以下、PFN)は、オープンソースの深層学習フレームワークChainer(チェイナー)のメジャーアップデート版となるChainer v2をリリースしました。

2015年のChainer公式リリース以来初めてとなる大幅な機能強化を実施し、よりパワフルに、柔軟に、そして直感的に、深層学習の実装と学習が可能になります。

深層学習技術の急速な発展と応用分野の拡大にともない、深層学習フレームワークに求められる機能、ユーザーの目的も急激に変化し、多様化しています。

Chainerは、最新の深層学習研究の成果を迅速に取り入れ、ChainerMN(分散深層学習)/ChainerRL(強化学習)/ChainerCV(コンピュータ・ビジョン)などの追加パッケージ開発、Chainer開発パートナー企業のサポートなどを通して、各分野の研究者や実務者の最先端の研究・開発活動を支援していくことを目指しています。

 

今回リリースしたChainer v2では、大きく3つの機能強化・改善を行いました。

1. 学習時のメモリ使用効率を大幅に改善

学習速度を犠牲にすることなく、メモリ使用量を大幅に削減。画像認識の分野で多用されるネットワーク ResNet50を用いた学習時には、メモリ使用量を33%以上削減できることが確認されています。これにより、より大きなネットワーク設計が容易になり、また、従来のネットワークにおいても、より大きなバッチサイズでの学習が可能になります。

 

2. Chainerの付属配列ライブラリ CuPy を分離・独立し、GPUを活用した高速配列演算の応用範囲を拡大

汎用配列計算ライブラリ CuPy は、科学技術計算の分野で多用されるライブラリ NumPy と非常に高い互換性をもつため、NumPyで記述されたコードをほとんど変更することなくGPUを使って高速に実行することが可能です。今回CuPyを分離し、独立したライブラリとして開発していくことで、深層学習以外の分野の研究・開発にも応用範囲を広げ、ユーザーの拡大を目指します。

 

3. APIを整理し、より直感的に

Chainerは、複雑なニューラルネットワークをプログラムとして直感的に記述できることが大きな特長の一つです。今回、ユーザーのユースケースやコミュニティからの要望を考慮し、不要なオプションの削除やインターフェースの整理を行い、より洗練されたAPIに改善しました。さらに直感的な記述が可能になったことで、意図しないバグの埋め込みが起きにくくなります。

 

● Chainer ReleaseNote:
https://github.com/chainer/chainer/releases/tag/v2.0.0

● Chainer Upgrade Guide:
http://docs.chainer.org/en/stable/upgrade.html

● Chainer Blog:
http://chainer.org/announcement/2017/06/01/released-v2.html

 

Chainerは今後、各分野の研究者や実務者の最先端の研究・開発活動をより迅速かつ効率的にサポートするため、4ヶ月ごとにメジャーバージョンのリリースを計画しています。

Chainer v2リリースにおいても、これまで同様に外部コントリビュータの開発成果を数多く取り入れさせていただきました。PFNは今後も、サポート企業やOSSコミュニティと連携しながらChainerの開発と普及を推進してまいります。

 

■ Chainer Meetup #05 

Chainerユーザーである開発者・研究者のコミュニティーイベントです。

●日 時: 2017年6月10日(土)14:00~18:30

●会 場: 日本マイクロソフト株式会社 品川オフィス セミナールームA
(東京都港区港南2-16-3 品川グランドセントラルタワー31F)

●申 込: https://chainer.connpass.com/event/57307/

 

■ Deep Learning Lab コミュニティキックオフ

最新のディープラーニング技術を実際のビジネスへ応用するべく、技術とビジネスの両面に精通したプロフェッショナルたちが集まるコミュニティです。主要プラットフォーム/フレームワークにMicrosoft AzureとChainerを採用し、事例や最新技術動向の情報発信を行います。

●日 時: 2017年6月19日(月)9:00~12:30

●会 場: 日本マイクロソフト株式会社 品川オフィス 会議室
(東京都港区港南2-16-3 品川グランドセントラルタワー31F)

●申 込: https://dllab.connpass.com/event/57981/

 

■ オープンソースの深層学習フレームワークChainerについて  http://chainer.org/

PFNが開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”アプローチによりユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計し、学習させるための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングの最新研究成果をいち早く現実世界のアプリケーションに活用するためのフレームワークを求める産業界においても、多くのユーザーに支持されています。

 

■ 株式会社Preferred Networksについて https://www.preferred-networks.jp/ja/

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、イノベーションの実現を目指しています。
オープンソースの深層学習フレームワークChainer(チェイナー)や、アプリケーションを含む統合ソリューションDeep Intelligence in-Motion(DIMo、ダイモ)の開発・提供をはじめ、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、先進的な取り組みを推進しています。(https://www.preferred-networks.jp/ja/

* Chainer(R)、DIMo(TM)は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。

お絵描きコミュニケーションアプリ「pixiv Sketch」と線画自動着色サービス「PaintsChainer」が連携。イラストの自動着色機能を提供開始!

AIがイラスト制作の「着色」をサポート!イラスト上の顔や服装、風景等を認識し、自動的に着色する新機能を提供

ピクシブ株式会社(代表取締役社長:伊藤浩樹、本社:東京都渋谷区)とAIベンチャーの株式会社Preferred Networks(代表取締役社長:西川徹、本社:東京都千代田区、以下、PFN)は提携し、お絵描きコミュニケーションプラットフォーム「pixiv Sketch(ピクシブスケッチ)」に、新たにAI技術による線画自動着色サービス「PaintsChainer(ペインツチェイナー)」の機能を追加し、2017年5月24日(水)より提供開始します。

 

pixiv Sketchは、PCやスマートフォン等のデバイスを通じてお絵描きしたものをそのまま投稿できるコミュニケーションプラットフォームです。部屋の中でくつろいでいる時も、友達と外で遊んでいる時も、いつでもどこでも気軽にお絵描きをして、お絵描きを投稿することでコミュニケーションをリアルタイムに体験できます。
この度pixiv Sketchに追加する機能は、PFNが開発・提供する深層学習フレームワークChainerを使って線画および着色イラストを学習させたPaintsChainerの、塗る色を自動判断できる技術が使われています。

 

これはイラスト制作のうちの「着色」という重要な工程を手助けしてくれるもので、pixivSketch上で描いた絵や外部画像ファイルを選択して自動着色ボタンをクリックするだけで、AIがイラスト上の顔や服装、風景等を認識し、自動的に色が塗られます。また色の調整も可能で、カラーパレットから線画上の任意の箇所に、好きな色をヒントとして指定して自動着色することもできます。

 

ピクシブとPFNは、今後もAI技術や研究を通して、お絵描きをより身近で楽しいものに変えるべく、価値のあるサービス提供をしてまいります。

 

 

■下記①~④のお絵描き工程のうち、③着色工程に自動着色機能を使うことができます

■pixivSketchでの自動着色機能

  • 対応開始 :5月24日(水)
  • 費用:無料
  • URL:https://sketch.pixiv.net/ (※WEB版のみ対応)
  • 主な利用方法
    ① 線画を描く、もしくは画像を選択
    ②「自動着色」ボタンで自動着色する
    ③ 2種類から好みの着色パターンを選択
    ④ 必要に応じて、色のヒントをカラーパレットから入力し、着色を調整
    ⑤ 色指定の後、矢印ボタンをクリックし、完成!

 

 

■pixiv Sketchとは  https://sketch.pixiv.net/

「日々のお絵描きをもっと気軽で楽しいものにしたい」という想いで立ち上げた、お絵描きコミュニケーションプラットフォーム。PCやスマートフォン等のデバイスを通じて、いつでもどこでもお絵描きしたものを投稿できるサービスです。

■PaintsChainerとは  https://paintschainer.preferred.tech/

PFNが開発・提供し、2017年1月のサービス公開と同時にTwitter等で大きな反響のあった、オンライン線画自動着色サービス。白黒等で描かれた線画ファイルをアップロードするだけで、深層学習の技術を使って完全自動着色または色指定の自動着色をすることができます。

 

■株式会社Preferred Networks  https://www.preferred-networks.jp/ja/

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、イノベーションの実現を目指している。最先端の深層学習技術を提供するDeep Intelligence in-Motion(DIMo、ダイモ)プラットフォームをベースとしたソリューションの開発・提供をはじめ、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、先進的な取り組みを推進している。

所在地:東京都千代田区大手町1-6-1 大手町ビル2F

代表取締役社長:西川徹

設立日:2014年3月26日

 

■ピクシブ株式会社  http://www.pixiv.co.jp

所在地 : 東京都渋谷区千駄ヶ谷4-23-5 JPR千駄ヶ谷ビル2F

代表取締役社長:伊藤浩樹

事業内容:インターネットサービス事業

設立日:2005年7月25日

 

*Chainer(R)、DIMo(TM)は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。

*その他、記載されている会社名、製品名は、各社の登録商標または商標です。

Preferred Networksとマイクロソフト、ディープラーニングソリューション分野で戦略的協業

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長 最高経営責任者:西川徹、以下、PFN)とマイクロソフト コーポレーション(本社:米国ワシントン州レドモンド、CEO:サティア ナデラ、以下マイクロソフト)は、人工知能や深層学習の実社会での活用を推進するため、ディープラーニングソリューション分野において戦略的協業することで合意しました。

今回の協業により、マイクロソフトのパブリッククラウドプラットフォームMicrosoft AzureとPFNの深層学習テクノロジーの連携を推進し、各業種業態のビジネス課題を解決する深層学習ソリューションを提供します。本協業の日本市場における展開を、日本マイクロソフト株式会社(本社:東京都港区、代表取締役 社長:平野 拓也)が全面的に支援します。

 

両社は、本協業を通して①テクノロジー、②人材育成、③マーケティング、の3つの軸で連携を進めます。

1.テクノロジー:

  • 深層学習に関わる技術者の課題として、複雑化するニューラルネットの学習時間の増大、増加し続けるデータの煩雑な管理、絶え間なく技術革新するアルゴリズムへの対応、深層学習を用いたシステム開発の方法論などが挙げられます。今回の協業では、2017年夏に、Microsoft AzureのIaaS と PFNの深層学習フレームワーク Chainerの親和性を高め、Chainer / ChainerMN(Multi Node)をワンクリックでAzure IaaS 上に展開する Azure Templateの提供、データサイエンスVMへのChainer 搭載、Azure Batch ServicesおよびSQL ServerのChainer対応、そしてChainerのWindows対応などを進めることで、課題の解消を図ります。

 

  • 現在主流であるニューラルネットワークのスクラッチ開発は高度な技術的知識が求められ、必要とされる投資金額も非常に大きくなっています。深層学習の実社会への適用を推進するためにはスクラッチ開発から、標準化されたソリューションへの移行が必須です。これを推進するため、Microsoft Azureのデータ収集分析サービスとPFNの深層学習プラットフォーム Deep Intelligence in-Motion(DIMo、ダイモ)を組み合わせ、特定のワークロードや業種向けソリューションを2017年中に提供します。また、そのソリューションを展開するパートナーを両者で支援し育成を行い、より広い実社会への実装を加速させていきます。

2.人材育成:

  • データサイエンス人材の育成は深層学習の実社会への応用の主要な課題の1つです。この課題を解消するために両社が連携し、大学の学生、企業内のエンジニア・研究者向けのトレーニングプログラムを2017年中に提供します。また、高等教育機関向けには政府機関などのデータ関連人材育成プログラムへの参加を検討していきます。

 

  • トレーニングプログラムはニューラルネットワークの基礎を学ぶ初級クラスだけではなく、実際に深層学習の実ビジネス事例をテーマに応用方法を学ぶ上級クラスまで提供します。これらのトレーニングを通して3年間で5万人の人材育成を計画しています。国際競争力のある IT 人材育成を目的とする世界最大の学生向けの IT コンテストであるImagine CupやAzure for Research などのプログラムをトレーニングのゴールとして用意します。

3.マーケティング:

  • 深層学習は機械学習の手法の1つですが、現在人工知能という広範な意味を含む言葉に含まれる形で多くの人の目に触れています。その結果、お客様のビジネス課題を解決するために深層学習が有効なのかどうか見極めが難しくなっています。これまでマイクロソフトとPFNが培った深層学習ビジネスの知見および、Microsoft Azure、Chainer、DIMoを活用した実際の成功事例をもとに、2017年夏に各業種に向けたお客様ワークショップを開始します。

 

  • Chainer、DIMoが提供する最新の深層学習テクノロジーを、強固なAzure基盤上に組み込むことにより、お客様の基幹システムに組み込めるエンタープライズグレードのエンドツーエンドソリューションを2017年内目途で提供します。

 

  • 深層学習でビジネス課題を解決したいお客様と、深層学習のコンサルティングや展開を行う企業とのマッチングの場として、コミュニティ”Deep Learning Lab(ディープラーニング・ラボ)”を発足し、2017年6月19日(月)および7月25日(火)の両日、コミュニティの主旨説明会を開催します。https://dllab.connpass.com/

 

 

■株式会社Preferred Networksについて

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、イノベーションの実現を目指しています。

最先端の深層学習技術を提供するDeep Intelligence in-Motion(DIMo、ダイモ)プラットフォームをベースとしたソリューションの開発・提供をはじめ、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、先進的な取り組みを推進しています。(https://www.preferred-networks.jp/ja/)

 

■日本マイクロソフト株式会社について

日本マイクロソフトは、マイクロソフト コーポレーションの日本法人です。マイクロソフトは、モバイル ファースト&クラウド ファーストの世界におけるプラットフォームとプロダクティビティのリーディングカンパニーで、「Empower every person and every organization on the planet to achieve more.(地球上のすべての個人とすべての組織が、より多くのことを達成できるようにする)」を企業ミッションとしています。

日本マイクロソフトは、この企業ミッションに基づき、「革新的で、安心でき、喜んで使っていただけるクラウドとデバイスを提供する会社」を目指します。

 

* Chainer(R)、DIMo(TM)は、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。

* Microsoft、Azure、Surface、Cortana は、米国 Microsoft Corporation の米国およびその他の国における登録商標または商標です。

* その他、記載されている会社名、製品名は、各社の登録商標または商標です。

 

オープンソースの深層学習フレームワークChainerに、 マルチノードでの分散学習機能を追加するChainerMN(β版)をリリース

本日、株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:西川徹、プリファードネットワークス、以下、PFN)は、オープンソースの深層学習フレームワークChainer(チェイナー)に、複数GPUの連携による分散学習機能を追加することで、学習速度を高速化させた追加パッケージ ChainerMN(チェイナー・エムエヌ、「MN」は「Multi Node」の略、https://github.com/pfnet/chainermn)のβ版をリリースしました。

GPUの性能は継続的に向上していますが、より大きなデータを活用し、より精度の高い学習モデルを実現するために、深層学習で使われるモデルのパラメータ数や計算量も増大しています。そのため現在でも、Chainer を含む一般的なフレームワークを用いた標準的な学習では 1週間以上かかるようなユースケースが少なくありませんでした。

PFNでは、より大規模なデータを扱ったり、試行錯誤のイテレーションを効率化するために、複数のGPUを連携させ、マルチノードでの分散学習機能を実装したChainerMNを開発しました。実験では「32ノード/128GPU」を動作させ、「1ノード/1GPU」で約20日を要する学習を、4.4時間で終わらせることに成功しています。

 

  • ChainerMNと他のフレームワークとの性能比較実験

https://research.preferred.jp/2017/02/chainermn-benchmark-results/

128 GPU を用い、速度のために精度を犠牲にしない実用的な同一設定下で、各フレームワークが学習完了に要する時間を比較した実験では、ChainerMN が最も高速という結果になりました。

 

また、GPU 数を変えた時の各フレームワークのスループットでは、1GPU の時にはC++ で記述されたMXNet, CNTK のほうがPython で記述されているChainerMN よりも高速であるものの、128 GPU では、ノード内・ノード間の両方で高速な通信を実現した ChainerMN が最も高速であり、スケーラビリティがあるという結果になりました。

 

ChainerMNは高速でスケーラブルなだけでなく、Chainerのユーザーであれば既存の学習コードから数行の変更をするだけで簡単にChainerMNを利用可能です。

ChainerMNは既に社内の複数のプロジェクトで利用されており、自然言語処理分野や強化学習分野での試用も始まっています。

 

  • オープンソースの深層学習フレームワークChainerについて

PFNが開発・提供するChainerは、Pythonベースのディープラーニング向けフレームワークとして、“Define-by-Run”の手法を通じてユーザーが簡単かつ直感的に複雑なニューラルネットワークを設計するための高い柔軟性とパフォーマンスを兼ね備えています。2015年6月にオープンソース化されたChainerは、最も普及しているディープラーニング向けフレームワークの1つとして、学術機関だけでなく、ディープラーニングがもたらすメリットを現実世界のアプリケーションや研究に活用するための柔軟なフレームワークを求める産業界の多くのユーザーに支持されています。(http://chainer.org/

 

  • 株式会社Preferred Networksについて

IoTにフォーカスした深層学習技術のビジネス活用を目的に、2014年3月に創業。デバイスが生み出す膨大なデータを、ネットワークのエッジで分散協調的に処理する「エッジヘビーコンピューティング」を提唱し、交通システム、製造業、バイオ・ヘルスケアの3つの重点事業領域において、イノベーションの実現を目指しています。

最先端の深層学習技術を提供するDeep Intelligence in-Motion(DIMo、ダイモ)プラットフォームをベースとしたソリューションの開発・提供をはじめ、トヨタ自動車株式会社、ファナック株式会社、国立がん研究センターなどの世界をリードする組織と協業し、先進的な取り組みを推進しています。(https://www.preferred-networks.jp/ja/

 

*Chainer、DIMoは、株式会社Preferred Networksの日本国およびその他の国における商標または登録商標です。