分散深層学習における耐故障性と可塑性 - Preferred Networks Research & Development
ImageNetを15分で学習して以来 [1]、Chainerと沢山のGPUを使って深層学習を並列化し、一回の学習に必要な時間を大きく短縮することができるようになりました。その後、ImageNetの学習は深層学習における並列化 ・高速化のデファクト標準ベンチマークとなりました [2]。それと同時に、深層学習の並列化および大規模化は進み、複数GPUどころか複数ノードで学習することは当たり前のこととなりました。深層学習の計算が大規模化し所要時間はどんどん短くなりましたが、一般的にはノードが増えれば増えただけ部分故障の確率は高くなります。また、大規模なクラスタでは個々の分散ジョブをスケールアウトしたりスケールダウンする機能、つまり可塑性をもとにした計算資源のやりくりが運用上重要になってきます。そこでChainerを拡張し、分散深層学習に耐故障性だけでなく可塑性を導入する実験を行いましたので、ここ
「ディープラーニング開発標準契約書」の公表に関するお知らせ
ディープラーニングを中心とする技術による日本の産業競争力の向上を目指す「日本ディープラーニング協会」（理事長：松尾 豊 東京大学大学院工学系研究科 教授、英称：Japan Deep Learning Association、以下JDLA）は、「ディープラーニング開発標準契約書」（以下、本契約書）を策定し、2019年9月6日公表いたしましたので、お知らせいたします。 現在も進化を続けるディープラーニング技術は、多くの可能性を社会にもたらし、新たな付加価値の創出や社会課題の解決が期待される技術であり、様々なビジネスでの活用、社会実装に向けた開発・検討が進みつつあり、その開発を担うスタートアップと業務の委託者である大企業との間で多くの議論がなされています。ビジネス面で新たなアイディア・検討が活発化する一方で、その契約においては、当事者間の契約実務に関する経験・スキル、ディープラーニングに関する認
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
