PFNの奥田氏 うーん、難しい質問ですね。ディープラーニングには大きく2つのタスクがあります。1つは、学習データを入力してニューラルネットを鍛える「学習(learning)」。もう1つは、鍛えたニューラルネットに使って何かを分類、推測させる「推論(inference)」です。 このうち学習に関しては、やはり今のようなGPUクラスターの進歩したものが必要だと思います。一定規模の台数も要りますし、Infinibandを使うかを含め、様々なスペックの検討が今後も求められそうです。 一方で、推論のほうはやや事情が異なります。こちらはCPUなど、別のデバイスが有利になる道も残されていると思います。 学習は、1つのニューラルネットワークを時間をかけて鍛えるものです。一方で推論は、何らかの機器やサービスに組み込んで使ってもらうことになるので、運用面では「低レイテンシーで」「効率よく」さばくことが重要にな
![ディープラーニングの学習・推論に最適なハードウエアとは](https://cdn-ak-scissors.b.st-hatena.com/image/square/92a5c68e9ca5f2c4ab3302d951c955744c1f9c79/height=288;version=1;width=512/https%3A%2F%2Factive.nikkeibp.co.jp%2Fatclact%2Factive%2F16%2F120700142%2F120700003%2Ftopm.jpg)