自己紹介 当記事はKichigai-Friends Advent Calendar 2017です. こんにちは,TrsNium です. 現在 大学を休学して放浪しています. 養ってくれる方を募集しています. 昨日開催されていたGTCJapnaで行って気になった,TensorRTの紹介をしたいと思います. もし間違えがあればご指摘をお願いしいます. TensorRTとは TensorRTはTensorFlowやPyTorchを用いいて学習したモデルを最適化をし,高速にインファレンスをすることを可能にすることができます.結果的にリアルタイムで動くアプリケーションに組み込むことでスループットの向上を狙うことができます. 実際にTesla V100とTensorFlowを使った場合,秒間305枚をインファレンスできるのに対して,Tesla V100とTensorRTは秒間5707枚をインファレンス
https://blog.tensorflow.org/2018/04/speed-up-tensorflow-inference-on-gpus-tensorRT.html https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEg89ciEGdSKLRCQoeHv3mCqvnzV3GSh4pW9u3DJuHVC_a_Gb4wWEJgIEEE9mU6OIhLIhyphenhypheng49vzjjQ5QbPXjZPy5AcsAYEaQFLTtQRaQkJcT61CHGugg3QjogKIBYvVfzYnKtskD2_AZ-G8/s1600/fig1.png April 18, 2018 — Posted by Siddharth Sharma — Technical Product Marketing Manager, NVi
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く