1. はじめに 世の中にはDeepLearningの学習済みモデルを公開してくださっている方がたくさんいらっしゃいます。本記事は、そのうちのいくつかをラズパイ4で動かしてみて、いったいどれくらいの速度で動くのかを検証したものです。 計測対象モデルとして、Mediapipe および TensorFlow.js、TensorFlow Lite models で公開されている学習済みモデルを利用させて頂きました。またモデル実行フレームワークとしては、モバイル向けに整備が進む TensorFlow Lite (C++) を用いました。 計測にあたっては、公開されているモデルをそのまま動かすだけでなく、一般的な高速化手法である下記の2手法を両方試し、その効果も計測しました。 [1] モデルをint8量子化する方法 演算精度に多少目をつぶる代わりに、NEON等のSIMD演算器による並列処理の並列度をさ
![Raspberry Pi4 単体で TensorFlow Lite はどれくらいの速度で動く? - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/98cc2a825fc4ecf5f9a8e190fd5d5ec8700fa99c/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9UmFzcGJlcnJ5JTIwUGk0JTIwJUU1JThEJTk4JUU0JUJEJTkzJUUzJTgxJUE3JTIwVGVuc29yRmxvdyUyMExpdGUlMjAlRTMlODElQUYlRTMlODElQTklRTMlODIlOEMlRTMlODElOEYlRTMlODIlODklRTMlODElODQlRTMlODElQUUlRTklODAlOUYlRTUlQkElQTYlRTMlODElQTclRTUlOEIlOTUlRTMlODElOEYlRUYlQkMlOUYmdHh0LWFsaWduPWxlZnQlMkN0b3AmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZzPTRiZmFkODM2MWFhMTkwZGNkOTVhM2QxYjQwZjFhMjNh%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDB0ZXJyeWt5JnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz0yZjY5Yjc0M2EwNTA4M2RhMTg2N2M5ZmI5YTJiZWJmMg%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D0e31044f914bad4a88c7e7e3a1c60833)