Google の Tensor Processing Unit (TPU) で機械学習が 30 倍速くなるメカニズム | Google Cloud 公式ブログ

* この投稿は米国時間 5 月 12 日に投稿されたもの（投稿はこちら）の抄訳です。 Posted by 佐藤一憲, Staff Developer Advocate, Google Cloud Cliff Young, Software Engineer, Google Brain David Patterson, Distinguished Engineer, Google Brain Google 検索、ストリートビュー、Google フォト、そしてGoogle 翻訳。これらのサービスに共通するのは、いずれもニューラルネットワーク（NN）の計算処理の高速化のために Google の第一世代の Tensor Processing Unit (TPU) が用いられている点です。 Google の第一世代 TPU は、昨年の Google I/O で初めて紹介され、今年 4 月にはその性能

[shinpeinkt]

"量子化は、あらかじめ設定した最大値と最小値の間の値を 8-bit 整数で表し、パラメータのサイズを圧縮。", " TPU は、クロック サイクルごとに数 10 万回の演算が可能なマトリックス プロセッサとして設計されています"

[gyu-tang]

TPU

[minamishinji]

なるほどー。ある程度わかった。

[Nyoho]

TPU売ってくれー

[kana0355]

“ TPU は 65,536 個の 8-bit 整数乗算器を搭載しています。つまり、推論精度のわずかな違いを許容するだけで 25 倍を超える数の乗算器を載せられるのです。”

[Kiikurage]

わかりやすい記事だなーとか思ったらパタヘネのパターソン先生だった

[georgew]

すごい、専用のプロセッサーまで作ってるとは。

[upinetree]

NNの推論に特化したASICを作って汎用プロセッサを遥かに上回る性能と省電力を実現した話。すごい

[p_tan]

汎用と特化のトレードオフの話。特化の方がシンプルで高性能な設計にできるが、用途が限定される。とはいえ、NN自体の用途が幅広いため、そのデメリットもあまり問題にならない。

[kotesaki]

メモメモ

[htnmiki]

ほうほうそれで

[braitom]

Googleニューラルネットワークの計算処理高速化のためのプロセッサTPUについて。TPUが生まれた経緯、ニューラルネットワークに必要な計算の詳細、TPUの仕組みが書かれている。

[matarillo]

面白い。NVIDIAの動き https://blogs.nvidia.com/blog/2017/04/10/ai-drives-rise-accelerated-computing-datacenter/ や、MITのカスタムチップ http://eyeriss.mit.edu/ なども併せて

[pochi-mk]

Google による TPU の解説記事。

[stealthinu]

TPUのアーキテクチャについての説明。

[rgfx]

via: https://plus.google.com/+KazunoriSato/posts/3XtyTPyY7C4 「RISCとRAIDの生みの親のパターソン先生、俺氏とTPU解説ブログを書いてくれた。なんだかゼミで卒論書いてる気分だった。」

[PRFREAK]

ソフトの期待進化にハードの改良が追いつかない中、GoogleのTPUは本来シリアスな精度を犠牲にして速度と消費電力を飛躍的に向上させたとする解説ですね。 / Google の Tensor Proces...

[moccos_info]

NNの演算を8bit整数演算化してあるのか

[pikarin1404]

Google Cloud Platform Japan 公式ブログ: Google の Tensor Processing Unit (TPU) で機械学習が 30 倍速くなるメカニズム