「VTA: An Open Hardware-Software Stack for Deep Learning」の翻訳と感想
VTA: An Open Hardware-Software Stack for Deep Learningの翻訳と簡単な感想を書きました(^o^) TVM開発チームには許可を頂いていますが、もし誤訳があったら教えてください。原文は以下です。 https://arxiv.org/abs/1807.04188 1. VTAとは Versatile Tensor Acceleratorの略。 汎用的かつ高速、効率的なHW Deep learningアクセラレータを提供するスタックの総称。 提供されるアクセラレータはプログラム可能であり、柔軟にカスタマイズができる。 VTAは生産性重視で高レベル記述が可能なDLフレームワークと性能重視で低レベルな基盤ハードウェア(FPGAなど)におけるブリッジになることを目的としている。 そのため、アクセラレータ以外にもドライバやJitランタイム、TVMに基づい
DeepLearning ハードウェアアクセラレータ：VTAをPYNQ-Z1 で動くようにセットアップして見た - Qiita
MacからsshfsでPYNQのファイルをリモートアクセスするための設定 最初は、VivadoをWindows10で動作させていて、そこからPYNQ-Z1にbitstreamファイルを 送り込んでいたので、WindowsのWSL（Windows Subscribe for Linux)のUbuntu16.04から sshfsしてみようと試みたのですが、なんか色々モジュールが足りないとのことで、接続出来なかったので、 Macからやってみたら出来た。 brew install osxfuse brew install sshfs mkdir mountp sshfs xilinx@192.168.2.99:/home/xilinx mountp
AI推論向けのIPを販売するEdgeCortixは日本に本社がある AIプロセッサーの昨今 (1/3)
今回紹介するのはEdgeCortix（エッジコーティックス）という会社だ。2019年に創業という、まだ歴史の浅いAI業界の中でも若い部類に入る。創業者はSakyasingha Dasgupta博士なのだが、実は本社は日本にある。 Dasgupta博士の経歴は少しおもしろく、2015年にドイツのゲッティンゲン大学で物理学の博士号を取った後でなぜか理研に籍を置きながら日本のIBMで研究スタッフとして勤務後に、やはり日本のLeap MindでPrincipal Scientist（主席科学者）のポジションに就いている。 その後、これまた東京のAscent RoboticsでChief Scientific Officer（最高科学責任者）となった後に、なぜかシンガポールのNeuri Pte Ltdという会社のCTO兼CEO代理を務め、2019年7月にEdgeCortixという会社を創業している。
深層学習コンパイラスタックと最適化
概要: 深層学習コンパイラのサーベイ論文 The Deep Learning Compiler: A Comprehensive Survey を基に、深層学習コンパイラの典型的なコンパイラスタックと最適化について説明しています はじめに 近年深層学習の目覚ましい進歩が注目を集めています。例えば ChatGPT をはじめとする大規模言語モデルの登場が社会面に大きな影響を与えたことは、記憶に新しいかと思います。 その背後で技術の進展を支えているのが、計算機における計算速度の向上です。深層学習ワークロードは、膨大な計算を必要とします。半導体の微細化がほぼ限界に達し、ムーアの法則の終焉が囁かれる今、ソフトウェアによる計算の高速化が喫緊の課題となっています。 高速化が求められる理由として、深層学習ワークロードにおける計算量の多さが挙げられます。例えば、サイズ 224\ \text{px} × 22
TVMにて、新しいアクセラレータに対応するための仕組み、BYOC (Bring Your Own Codegen) について調べてみました - Vengineerの戯言
Vengineerの戯言 : Twitter SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった はじめに、 昨日、「Sima.ai の MLSoC (AI Edge デバイス)って、どんなものだろうか？」にて、SiMa.ai について調べていたら、ディープラーニングフレームワークにTVMを使っていました。 vengineer.hatenablog.com SiMa.aiのMLAは TVM にとっては新しいアクセラレータなので、どのような仕組みで取り込んでいったのか気になりました。 そこで、今日は、TVMではどのようにして、新しいアクセラレータに対応しているのかについて探っていきます。 TVMについて、復習 学習側のディープラーニングは、 TensorFlow / Kera PyToch の2大フレームワークに決まりました。 一方、推論(Depl
Ansor: An Auto-scheduler for TVM (AutoTVM v2.0) - Vengineerの戯言
@Vengineerの戯言 : Twitter SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった 「Auto-scheduler for TVM」のLianmin Zhengさんから Ansor(AutoTVM v2.0)の提案 discuss.tvm.ai 現在の AutoTVM の問題点 The templates are hard to write. It takes a great number of engineering efforts to develop these templates. The number of required templates is large and continues to grow as new operators come. The templates are far from optimal.
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
VTA 入门 | Apache TVM 中文站
CNN-based End-to-end Autonomous Driving on FPGA Using TVM and VTA
Apache TVM 是一个端到端的深度学习编译框架，适用于 CPU、GPU 和各种机器学习加速芯片。 | Apache TVM 中文站
FPGAの部屋 ”Simple Matrix Multiply”をやってみる2
GitHub - octoml/Apple-M1-BERT: 3X speedup over Apple’s TensorFlow plugin by using Apache TVM on M1
On Apple M1, Beating Apple’s Core ML 4 With 50% Improvements | OctoAI
How to Bring Your Own Codegen to TVM
FPGAの部屋 TVM_VTA
Deploy Models and Integrate TVM — tvm 0.16.dev0 documentation
Ichiro Morinaga – Medium
VTA Hardware Guide — tvm 0.16.dev0 documentation
What are the differences between the TVM Techniques Auto-scheduling and AutoTVM?
Bansor: Improving Tensor Program Auto-Scheduling with Bandit Based Reinforcement Learning
【AI编译优化】谈谈 tvm ansor