NVIDIA Jetson Nano 開発者キットで TensorRT サンプル・プログラムを試す で TensorRT を Jetson Nano で利用する方法について紹介させていただきましたが、TensorRT を利用する方法はもう一つ存在します。TensorRT は TensorFlow に統合されていますので TensorFlow から TensorRT の機能を利用することができます。この仕組みは TF-TRT と呼ばれ、TensorRT 対応のニューラルネットワーク層は TensorRT で最適化され、そうでない層は TensorFlow でそのまま処理されます。ニューラルネットワーク・モデルを TensorRT 向けにすべて変換する方法に比べると多少パフォーマンスは劣りますが簡単に利用できるのが利点です。 TensorFlow/TensorRT Models on Jets
![NVIDIA Jetson Nano 開発者キットで TF-TRT を利用した物体検出を試す - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/0ef4739752f1ca48df1949e2fd8d9e5a1d2cc2dd/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9TlZJRElBJTIwSmV0c29uJTIwTmFubyUyMCVFOSU5NiU4QiVFNyU5OSVCQSVFOCU4MCU4NSVFMyU4MiVBRCVFMyU4MyU4MyVFMyU4MyU4OCVFMyU4MSVBNyUyMFRGLVRSVCUyMCVFMyU4MiU5MiVFNSU4OCVBOSVFNyU5NCVBOCVFMyU4MSU5NyVFMyU4MSU5RiVFNyU4OSVBOSVFNCVCRCU5MyVFNiVBNCU5QyVFNSU4NyVCQSVFMyU4MiU5MiVFOCVBOSVBNiVFMyU4MSU5OSZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnM9NDQwYTlkOTRkZTBlOTM5YTAwZTI4MWY1NTA3NzkxNDY%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDB0c3V0b2YmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWRmYzdmZGQwYjI4ZWQzZWExY2Y3NTkwMDE0MzkzMjBl%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D36470eb64e6426c2a309603abf0d2d13)