TensorFlowの画像識別モデルをTensorFlow-TensorRTで推論高速化 - Qiita

NVIDIAの大串です。今回はDeep Learning(TensorFlow)の推論をGPUで実行する際に高速化ができるTensorFlow-TensorRTに関して記事を書かせて頂きました。 モチベーション Deep Learningモデルの推論は計算量が多いため、通常の処理に比べ時間がかかるケースが多いです。ユースケースによっては厳しい時間制約の中でDeep Learningモデルの推論結果が求められます。 このようなケースに対応するため、NVIDIAはGPUでDeep Learningモデルの推論処理を高速化できるTensorRTライブラリを開発しています。 TensorRTはTensorFlowに統合されており、TensorFlowから簡単に呼び出すことができます。これはTensorFlow-TensorRT（以下：略称TF-TRT）と呼ばれて、TensorFlowの便利な機能を

[misshiki]

“Deep Learning(TensorFlow)の推論をGPUで実行する際に高速化ができるTensorFlow-TensorRT”