Raspberry Pi4 単体で TensorFlow Lite はどれくらいの速度で動く？ - Qiita

1. はじめに 世の中にはDeepLearningの学習済みモデルを公開してくださっている方がたくさんいらっしゃいます。本記事は、そのうちのいくつかをラズパイ４で動かしてみて、いったいどれくらいの速度で動くのかを検証したものです。 計測対象モデルとして、Mediapipe および TensorFlow.js、TensorFlow Lite models で公開されている学習済みモデルを利用させて頂きました。またモデル実行フレームワークとしては、モバイル向けに整備が進む TensorFlow Lite (C++) を用いました。 計測にあたっては、公開されているモデルをそのまま動かすだけでなく、一般的な高速化手法である下記の２手法を両方試し、その効果も計測しました。 [1] モデルをint8量子化する方法 演算精度に多少目をつぶる代わりに、NEON等のSIMD演算器による並列処理の並列度をさ

[sh2]

あとでやってみる

[kazuph1986]

読んでて楽しい。

[jacoby]

やっぱJetsonすごいな。

[misshiki]

“ラズパイ４でTensorFlow Lite を動かす場合に最も処理速度が速くなるのは、...64bit OS環境で、量子化したモデルを用い、GPUではなくCPUで推論する。...ラズパイ４ではGPU Delegateは活用できない という結果となりました”

[zakinco]

GPUレンタルできるので使ってみてください。 https://vast.ai/

[sds-page]

パワーが必要な時はまだJetsonなのか

[cj3029412]

すきすきー😺

[skypenguins]

ええな