TotchScriptとは TorchScriptは、Pythonコードからモデルを段階的に移行するためのツールを提供し、スタンドアロンの C++ プログラムなど、Python から独立して実行できる TorchScript プログラムへ置き換えることができる。つまり、使い慣れたPythonツールを使用して PyTorch でモデルを作成し、推論用にC++へエクスポートすることができ、高速化が図れる。 単純モデルのエクスポート Pytorchで学習したモデルを元に、torch.jit.trace関数を用いてTorchScriptプログラムへ変換する。 ※ ジャストインタイム(JIT)コンパイラー・・・実行時にコードをコンパイルするコンパイラの一種で、実行時に必要な部分のコードを即座にコンパイルして実行する。プラットフォーム(Windows、macOS、LinuxなどのOSやハードウェア)に
![【C++】学習済みPyTorchモデルのC++(TotchScript)移管 - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/3114a6e120cded231e4654c969eda6d6f5dc7fc0/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUUzJTgwJTkwQyUyQiUyQiVFMyU4MCU5MSVFNSVBRCVBNiVFNyVCRiU5MiVFNiVCOCU4OCVFMyU4MSVCRlB5VG9yY2glRTMlODMlQTIlRTMlODMlODclRTMlODMlQUIlRTMlODElQUVDJTJCJTJCJTI4VG90Y2hTY3JpcHQlMjklRTclQTclQkIlRTclQUUlQTEmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWIwYjMxMjc5ZGNjMGIzZjkxM2ZkMDQzZDRmZWVkODQ5%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTcxNiZ0eHQ9JTQwY2FtdWx0YW5lb3VzJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzImdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1lNTNmY2Q1Mzc1ZjNhZTQ5YTdlMTNjZDUxYWU1MWFjYg%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3Ddf273eb8d17f105ae3045706050a2848)