Tensorflowで学習したモデルをC++/OpenVINOで高速に推論するチュートリアル - Qiita
はじめに OpenVINOはIntelが提供しているディープラーニングの推論エンジンライブラリです。 OpenVINOを使うことでTensorflowやPytorchで学習したモデルをロードし、高速に推論を実行することができます。 Tensorflowで推論を実行するよりも、数倍の実行時間短縮の効果を得られます。 さすがIntelというところでしょうか、OpenVINOのドキュメントは公式に丁寧にまとめられており、 https://docs.openvinotoolkit.org/latest/index.html また公式のフォーラムも活発なので、 https://community.intel.com/t5/Intel-Distribution-of-OpenVINO/bd-p/distribution-openvino-toolkit OpenVINOを利用するには特に困らないのです
CPU単体で無理やり tiny-YoloV3 OpenVINO [60 FPS / CPU only] 今度こそ絶対速いと感じるに違いない、というか、速すぎです 【その4】 - Qiita
$ sudo python3 /opt/intel/computer_vision_sdk/deployment_tools/model_optimizer/mo_tf.py \ --input_model pbmodels/frozen_tiny_yolo_v3.pb \ --output_dir lrmodels/tiny-YoloV3/FP32 \ --data_type FP32 \ --batch 1 \ --tensorflow_use_custom_operations_config yolo_v3_tiny_changed.json // Copyright (C) 2018 Intel Corporation // SPDX-License-Identifier: Apache-2.0 // /** * \brief The entry point for the Inf
![CPU単体で無理やり tiny-YoloV3 OpenVINO [60 FPS / CPU only] 今度こそ絶対速いと感じるに違いない、というか、速すぎです 【その4】 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/6f6a7116a42b8522056d437a67727ec254535ed2/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Q1BVJUU1JThEJTk4JUU0JUJEJTkzJUUzJTgxJUE3JUU3JTg0JUExJUU3JTkwJTg2JUUzJTgyJTg0JUUzJTgyJThBJTIwdGlueS1Zb2xvVjMlMjBPcGVuVklOTyUyMCU1QjYwJTIwRlBTJTIwJTJGJTIwQ1BVJTIwb25seSU1RCUyMCUyMCVFNCVCQiU4QSVFNSVCQSVBNiVFMyU4MSU5MyVFMyU4MSU5RCVFNyVCNSVCNiVFNSVBRiVCRSVFOSU4MCU5RiVFMyU4MSU4NCVFMyU4MSVBOCVFNiU4NCU5RiVFMyU4MSU5OCVFMyU4MiU4QiVFMyU4MSVBQiVFOSU4MSU5NSVFMyU4MSU4NCVFMyU4MSVBQSVFMyU4MSU4NCVFMyU4MCU4MSVFMyU4MSVBOCVFMyU4MSU4NCVFMiU4MCVBNiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9N2IwODIyNzQxMWE5MWI1OWRkMTQzYzg4M2Q4ZWYyZWY%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBQSU5UTyZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9ZDc0MDllNThhZDg0NWJiODAyMjk4MmQwNTI1OWRjZDU%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D954654ab3cb463b9ab38192280ac6d19)
CPU単体で無理やり YoloV3 OpenVINO [4-5 FPS / CPU only] 【その3】 - Qiita
OpenVINO-YoloV3 I wrote an English article, here ◆ 前回記事 CPU単体で無理やり RealTime Semantic Segmentaion 【その２】 [4-5 FPS / CPU only] DeeplabV3+MobilenetV2 (Core i7なら11-12 FPS) ◆ はじめに 先に懺悔します。 今回はサンプルプログラムの丸パクリ記事です。 ( ´_ゝ`) GPU も Neural Compute Stick も使わない、 CPU単体で男気実装シリーズ の第３弾。 今回は推論の難易度をセグメンテーションから１段階下げて、 OpenVINO + YoloV3 (Full Size) のオブジェクトディテクションをCPUで動作させました。 ２４８MB のモデルをCPU単体で実行したときのスピードは下図。 ん〜〜〜・・・、遅いね
![CPU単体で無理やり YoloV3 OpenVINO [4-5 FPS / CPU only] 【その3】 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/b765626713b5ce5ddfee563f0f9a23cd4149ef85/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Q1BVJUU1JThEJTk4JUU0JUJEJTkzJUUzJTgxJUE3JUU3JTg0JUExJUU3JTkwJTg2JUUzJTgyJTg0JUUzJTgyJThBJTIwWW9sb1YzJTIwT3BlblZJTk8lMjAlNUI0LTUlMjBGUFMlMjAlMkYlMjBDUFUlMjBvbmx5JTVEJTIwJUUzJTgwJTkwJUUzJTgxJTlEJUUzJTgxJUFFMyVFMyU4MCU5MSZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9YjVmOTZiMTVkYzJmYjNiZTJiMjU5ZTk1YTY3ZGE3ZWQ%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBQSU5UTyZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9ZDc0MDllNThhZDg0NWJiODAyMjk4MmQwNTI1OWRjZDU%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D5e9d5f7fd586f1b0b87e15251564d368)
CPU単体で無理やり RealTime Semantic Segmentaion 【その２】 [4-5 FPS / CPU only] DeeplabV3+MobilenetV2 (Core i7なら11-12 FPS) - Qiita
CPU単体で無理やり RealTime Semantic Segmentaion 【その２】 [4-5 FPS / CPU only] DeeplabV3+MobilenetV2 (Core i7なら11-12 FPS)PythonDeepLearningMovidiusSemanticSegmentationOpenVINO OpenVINO-DeeplabV3 I wrote an English translation, here ◆ 前回記事 CPU単体で無理やり RealTime Semantic Segmentaion その１ [1 FPS / CPU only] ◆ はじめに GithubとForumでフィードバックをガンガン頂けるので助かる。 世間に必要とされているか、必要とされていないか、がよく分かる。 Commitした直後に何者かが既に Star を付けてくれている。。
![CPU単体で無理やり RealTime Semantic Segmentaion 【その２】 [4-5 FPS / CPU only] DeeplabV3+MobilenetV2 (Core i7なら11-12 FPS) - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/3072ba5baf696ff210060597c1b5e03bc17d1afe/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Q1BVJUU1JThEJTk4JUU0JUJEJTkzJUUzJTgxJUE3JUU3JTg0JUExJUU3JTkwJTg2JUUzJTgyJTg0JUUzJTgyJThBJTIwUmVhbFRpbWUlMjBTZW1hbnRpYyUyMFNlZ21lbnRhaW9uJTIwJUUzJTgwJTkwJUUzJTgxJTlEJUUzJTgxJUFFJUVGJUJDJTkyJUUzJTgwJTkxJTIwJTVCNC01JTIwRlBTJTIwJTJGJTIwQ1BVJTIwb25seSU1RCUyMERlZXBsYWJWMyUyQk1vYmlsZW5ldFYlRTIlODAlQTYmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPThkYzE1MmYxZGQ0NjRiODM3MzZiODQzM2QzOTVlNzIy%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBQSU5UTyZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9ZDc0MDllNThhZDg0NWJiODAyMjk4MmQwNTI1OWRjZDU%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D05e5ef38370964b7cbf4dca635602634)
CPU単体で無理やり RealTime Semantic Segmentaion 【その１】 [1 FPS / CPU only] - Qiita
CPU単体で無理やり RealTime Semantic Segmentaion 【その１】 [1 FPS / CPU only]PythonDeepLearningMovidiusSemanticSegmentationOpenVINO OpenVINO-ADAS OpenVINO-DeeplabV3 ◆ 前回記事 LattePanda Alpha 864 (OS付属無し) にUbuntu16.04+OpenVINOを導入してNeural Compute Stick(NCS1) と Neural Compute Stick 2(NCS2) で爆速Semantic Segmentationを楽しむ ◆ はじめに あけおめ。。。あ、間違えた。まだ１２月１日だ。 今回は超絶ラフにいく。 １分で読み終える記事を目指す。 前回、OpenVINOの導入と各種モデルのコンバートと静止画ベースのデモプロ
![CPU単体で無理やり RealTime Semantic Segmentaion 【その１】 [1 FPS / CPU only] - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/890179ea9a1fd20154f59d4f5a24048a9a4ee4d9/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9Q1BVJUU1JThEJTk4JUU0JUJEJTkzJUUzJTgxJUE3JUU3JTg0JUExJUU3JTkwJTg2JUUzJTgyJTg0JUUzJTgyJThBJTIwUmVhbFRpbWUlMjBTZW1hbnRpYyUyMFNlZ21lbnRhaW9uJTIwJUUzJTgwJTkwJUUzJTgxJTlEJUUzJTgxJUFFJUVGJUJDJTkxJUUzJTgwJTkxJTIwJTVCMSUyMEZQUyUyMCUyRiUyMENQVSUyMG9ubHklNUQmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTZjNDJjOWI5NDVkZmExZWVlMzgwYzU3MTBjYjMzMmRi%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBQSU5UTyZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9ZDc0MDllNThhZDg0NWJiODAyMjk4MmQwNTI1OWRjZDU%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3De4b9aaeabd7a104490c1f13587cba55d)
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://macnicago.zendesk.com/hc/ja/articles/360042709871-YOLOv3-%E3%82%92-OpenVINO-%E3%83%84%E3%83%BC%E3%83%AB%E3%82%AD%E3%83%83%E3%83%88%E3%81%A7%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B-IR-%E5%BD%A2%E5%BC%8F%E3%81%B8%E5%A4%89%E6%8F%9B%E3%81%97%E3%81%A6%E3%81%BF%E3%82%88%E3%81%86