Edge AIアクセラレータの速度性能に関して - Qiitaこの記事について Edge AIではリアルタイム性が求められることが多いです。 高負荷なDeep Learning演算をエッジで行うため、最近は多くのEdge AIアクセラレータがリリースされています。 個人でも手に入る有名どころでは、Edge TPUやMovidius NCS、Jetson Nanoがあります。 今後もこの流れは続いていくと思います。 これらのデバイスメーカーや、個人のサイトでは速度性能のベンチマークを記載したり比較しています。 その際に、自分が見ている数字は何の速度なのか? 自分は何の速度を知りたいのか? をちゃんと理解しましょう、という内容です。 要約 Deep Learningに関する速度性能として、主に以下の3つが考えられると思います FLOPS (TOPS) ハードウェアとしてのスペック性能 推論時間 AIアクセラレータが有効なのは、基本的にはこの部分のみです
AI Processor Hailo-8 For Edge Devices | Up to 26 Tops Hardware
