社内勉強会での発表資料です。公開情報をもとにTeslaのコンピュータビジョン技術について調査したものです。Read less
![Teslaにおけるコンピュータビジョン技術の調査](https://cdn-ak-scissors.b.st-hatena.com/image/square/850d338017022ef821766ab6122ac2d823d833a8/height=288;version=1;width=512/https%3A%2F%2Fcdn.slidesharecdn.com%2Fss_thumbnails%2F20220107miyazawacvtesla-220107081747-thumbnail.jpg%3Fwidth%3D640%26height%3D640%26fit%3Dbounds)
社内勉強会での発表資料です。公開情報をもとにTeslaのコンピュータビジョン技術について調査したものです。Read less
While the world is still recovering, research hasn't slowed its frenetic pace, especially in the field of artificial intelligence. More, many important aspects were highlighted this year, like the ethical aspects, important biases, governance, transparency and much more. Artificial intelligence and our understanding of the human brain and its link to AI are constantly evolving, showing promising a
学習初期は徐々に学習率を上げていく「Warmup」と、学習率をなめらかに下げていく「Cosine Annealing」を1つのオプティマイザーとして楽に実装する方法を、timmライブラリを使って見ていきます。 timmについて timm(PyTorch Image Models)という便利なライブラリがあります。画像のTransformer系の論文実装で特によく使われているライブラリです。 このライブラリでは訓練済みのモデルの係数の提供の他に、Data Augmentationや学習率のスケジューラーも入っています。RandAugmentやCutMix、Mixupといった、ディープラーニングのフレームワークには組み込まれていないが、1から実装するとそこそこ大変なAugmentを使いたいときはかなり便利です。PyTorchのデフォルトのコードとも相互運用できるようになっています。 Cosin
LGグループが、世界最大規模のデータを学習した「超巨大人工知能(AI)」を出した。人間のように視聴覚を活用し、学習したデータで推論までできる「スーパーAI」だ。 LGAI研究院は14日、「LGAIトークコンサート」を開き、超巨大AI「エクサワン(EXAONE)」を公開した。 世界最大レベルのコーパス6000億個とイメージ2億5000万枚以上を学習した。 AI演算性能を判断できるパラメータ(媒介変数)は3000億個で、韓国最大だ。単純に比較すると、囲碁に特化したアルファゴの300倍を超える。パラメーターとは、学習したデータを溜めて計算する貯蔵所で、人の脳神経網に似ている。 テキストとイメージ学習を行き来する「マルチモーダル(multi-modality)」機能を遂行するのも特徴だ。 LGAI研究員は「エクサウォンは国内で学習能力が最も優秀なAI」とし「エクサウォンを上位1%水準の専門家AIに
学習していないものも予測できることで注目を集める画像モデル「CLIP」がコンピュータービジョン(画像や映像の識別)の分野に大きな影響を与えている。米スタンフォード大学はCLIPやBERT、GPT-3といった、大規模データで学習して幅広いタスクに汎用的に適用できるモデルを“基盤モデル”と称し、研究センターの設立まで発表するほど。そんなCLIPの周辺動向および各分野での応用例を紹介する。 2021年の1月にテキスト(文章)から高い品質の画像を生成することで大きな話題になったモデル「DALL・E(ダリー)」。DALL・Eと同じタイミングで発表され、その処理の中でも高いクオリティーの結果を生成する上で大きな役割を果たしているのが「CLIP」(Contrastive Language-Image Pretraining)である。 CLIPはネット上から収集した画像とテキストの4億ペアの訓練データで画
Advances in biology and medicine over the last decade have given us some of the most transformative medicines to date, including the first FDA-approved gene therapy, Luxterna, to treat retinal dystrophy, the first engineered cell therapy, Kymriah, to treat lymphoblastic leukemia, and multiple vaccines to treat the worldwide COVID-19 pandemic in less than a year since the virus was first discovered
Overview | Quick install | What does Flax look like? | Documentation This README is a very short intro. To learn everything you need to know about Flax, refer to our full documentation. Flax was originally started by engineers and researchers within the Brain Team in Google Research (in close collaboration with the JAX team), and is now developed jointly with the open source community. Flax is bei
HAQ: Hardware-Aware Automated Quantization with Mixed Precision (CVPR 2019 oral), Kuan Wang∗, Zhijian Liu∗,Yujun Lin∗, Ji Lin, and Song Han Paper Codes 課題 量子化はDNNをモバイルデバイスの高速化において重要な技術だが、各レイヤのビット幅などの設計は今まで手設計でルールベースなどで行われてきた。この論文ではレイヤ毎の量子化ビット数を自動的にハードウェアの性能を反映しつつ決定可能なHAQ技術を提案する。具体的には強化学習エージェントを使うことでレイテンシを最小化するパラメータを求める。 提案技術 mixed precision DNNの量子化は幅広く使用されている技術であり、一般的には量子化はDNNの全レイヤを単一のビット幅になるよう圧縮を
In recent years, the AI field has made tremendous progress in developing AI systems that can learn from massive amounts of carefully labeled data. This paradigm of supervised learning has a proven track record for training specialist models that perform extremely well on the task they were trained to do. Unfortunately, there’s a limit to how far the field of AI can go with supervised learning alon
松尾研究室の教育活動 TMIの授業である「ウェブ工学とビジネスモデル」、データサイエンティストの育成を行うグローバル消費インテリジェンス寄付講座(GCI)、DeepLearning の講座を運営するDeep Leaning JPを軸に、次世代の情報社会を担う人材を輩出すべく、実践的な教育活動を行っています。 TMIの授業である「ウェブ工学とビジネスモデル」においては、社会の基盤技術であるインターネットを用いたサービス開発を通じて情報化社会に於ける工学的素養を身につける授業を行っています。グローバル消費インテリジェンス寄付講座においては、データ分析をできるCMO人材を育成する講座を2014年から開始しており、のべ200名以上の学生が参加しております。DeepLearning.JPに於いては、ディープラーニング人材の教育講座を国内で最も早く開設。2015年11月から。学部や学年を超えた実践型の
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く