Edge TPU USB Acceleratorの解析 - Operationとモデル構造 - Qiita

この記事について Google Coral Edge TPU USB Acceleratorの動作を解析します。 前回は、データ入出力に注目して解析を行いました。 今回は、Operationやモデル構造がパフォーマンスに与える影響を調べます。 前回の解析結果で、入出力データ量がパフォーマンスに与える影響が大きいことが分かったので、その影響を受けないようなモデルを作って解析を行います。 また、解析用のモデルだけだとつまらないので、最後にはMobileNet, MobileNetV2, Mobilenet SSDのパフォーマンス測定を、いくつかの条件下で実施しました。 お願いと注意 基本的には実際に動かして確認した結果をベースに書いています。 が、考察や推測の部分は完全に僕の考えです。そのため、間違えや誤解を与えてしまうところがあるかもしれません。 その際には、ぜひご指摘いただけると嬉しいです

[sh19910711]

"TPU: 行列の積和演算に特化 / 入出力データ量が少ない、特殊な実験用モデルの場合 > Dense(Fully Connected)は遅い。TPUはCPUの1/2～1/5程度の速度 / パラメータがOff-chipメモリに配置 > USB2.0の場合、速度低下の原因になる" 2019