はじめてのNNVM - Qiita

はじめに NNVMは各種フロントエンドなディープラーニングフレームワーク(Caffe/Keras/MXNet/PyTorch/Caffe2/CNTK)で構築した演算グラフを、TVMというテンソル演算スタックを介してさまざまなバックエンド(LLVM,OpenCL,Metal,CUDA)を用いたランタイムに変換するコンパイラです。原理的には学習にも使えるんじゃないかと思うのですが、基本的には推論のデプロイ用というかんじですね。 すごく乱暴にいうと、ラズパイ等の非力なデバイスでなるべく速く動くようにするコンパイラ、です。 公式リリースの絵がとてもわかりやすいです。 日本製フレームワーク(Chainer, NNabla)がガン無視されていて悲しいですね。。 残念ながら現時点では、PyTorchからONNX経由での経路は、OSXでは通りませんでした（後述）。素直にサポートされているMXNetで試して