2018年版 機械学習ハードウェアのState of the Artを考える ~CPU, GPU, TPUを添えて~ - Qiita

機械学習工学 / MLSE Advent Calendar 2018の5日目の記事です。 tl;dr 機械学習を走らせるハードウェアは大きくCPU,GPU,FPGA,ASIC。 CPUは他と比べると並列性が足ずこれからも性能は伸びない。 現状のところソフトウェアスタックが整備されているGPUが最強。 しかしFPGA,ASICは伸びしろが大きく、来年以降はどんどんシェアを伸ばしてきそうで楽しみ。 目的 2018年現在のMLHW（機械学習ハードウェア）の最も高性能なもの（State Of the Art）を考える記事です。特になんで性能が良いのか、というコンピュータアーキテクチャ的な考察を分野外の方向けに行いたいと思います。 想定している聴衆は機械学習（本記事ではディープラーニング系タスクを指し機械学習やMLと言わせて頂きます）の学習・推論を行うソフト系エンジニアです。 筆者はハード系の研究者