TVMでyolo v3を速くしてみる

こんにちは。NTTの森永です。 皆さん、TVMはご存知ですか？TVMは、深層学習コンパイラと呼ばれるソフトウェア群の一つで、学習済みの深層学習モデルをエッジデバイスからサーバまで様々な環境に最適化しdeployすることに特化したコンパイラです。昨年Apacheプロジェクトに採用されるなど、注目度が高いOSSで、弊社でも何人かの社員がTVMに貢献しています。 TVMの概念図TVMというと、関数型言語に影響された内部実装や独特なコードの書かれ方から難しいイメージが持たれがちですが、使ってみる分には結構簡単です。みなさんにが気軽に試せるよう、本記事は基本的な使い方のチュートリアル的な意味合いで、TVMを使い推論モデルを高速化していく手はずを紹介したいと思います。 今回はGluonCVのYolo v3を高速化してみます。というのも、社内の別チームから、TVMでGluonCVのYolo v3を動かし