Zero-shot Learning網羅的サーベイ：CLIPが切り開いたVision & Languageの新しい世界 - エクサウィザーズ Engineer Blog
こんにちは！ 画像システムグループで機械学習エンジニアをやっている小島です。 この記事では、今ホットな「Zero-shot Learning」と「Vision & Language」に関する最新情報を、CLIPという研究を起点として網羅的にサーベイをしていきます。このために論文1000本に目を通し、70本程度を記事にしました。 Zero-shotやVision & Languageは、Stable Diffusionに代表される画像生成AIとも密接に関連している技術です。この記事を通して、Vision & Languageの奥深い世界を体感できるでしょう。 注意事項 この記事は非常に長いため、全部読むのに1時間以上かかる可能性があるので、休憩を取りながら、または必要な部分だけ読んでください。各セクションを個別に読んでも問題ありません。 また、文章中の画像は、特別な記載がない限り、引用元の論
基盤モデルとは | TRAIL
はじめにみなさんはじめまして．TRAILの小林聖人と申します． ご覧頂きありがとうございます！ また, 「基盤モデル×Robotics」のAdvent Calendarにご参加して頂き, ありがとうございます！ 本記事は東京大学松尾豊研究室のサブグループであるTRAILのテックブログでご紹介させて頂いております！ TRAIL ロボコン大会実績 ロボカップジャパンオープン@home2020 DSPL初出場 テクニカルチャレンジ優勝・総合準優勝の2冠WRS (World Robot Summit) 2020 Partner Robot Challenge 準優勝本題へ本記事の構成目次 ☆ 基盤モデルとは？ ▷ 命名「基盤モデル foundation model」 ▷ 基盤モデルが台頭した訳 ▷ 基盤モデルの例 ☆ 基盤モデルのロボティクスへの活用例 ▷ PaLM-SayCan ▷ Code a
コスプレしたアインシュタイン？強力な生成モデルGLIDE
3つの要点 ✔️ 言語指示から多様かつ高解像度な画像が生成できるGLIDEを提案 ✔️ 言語指示に忠実した生成画像がDALL-Eを超える ✔️ 気軽に使えるミニモデルを公開 GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models written by Alex Nichol, Prafulla Dhariwal, Aditya Ramesh, Pranav Shyam, Pamela Mishkin, Bob McGrew, Ilya Sutskever, Mark Chen (Submitted on 20 Dec 2021 (v1), last revised 22 Dec 2021 (this version, v2)) Comments: Publish
Contrastive Representation Learning
Date: May 31, 2021 | Estimated Reading Time: 39 min | Author: Lilian Weng The goal of contrastive representation learning is to learn such an embedding space in which similar sample pairs stay close to each other while dissimilar ones are far apart. Contrastive learning can be applied to both supervised and unsupervised settings. When working with unsupervised data, contrastive learning is one of
話題のOpenAIの新たな画像分類モデルCLIPを論文から徹底解説！
はじめに OpenAIより幅広いタスクでゼロショット転移（タスクごとのFine-tuningを必要としない）が可能な事前学習画像分類モデルCLIPが発表されたので、論文をもとに詳細解説します。簡単にまとめた記事も掲載しておりますので、お時間がない方はこちらをご参照下さい。（自然言語と画像を結びつけて高い汎化性能を実現したOpenAIのCLIPを紹介！）なお、この記事で用いた画像はすべて下記論文より引用したものです。 論文 Learning Transferable Visual Models From Natural Language Supervision https://cdn.openai.com/papers/Learning_Transferable_Visual_Models_From_Natural_Language_Supervision.pdf OpenAIブログ CLI
2020年超盛り上がり！自己教師あり学習の最前線まとめ！ - Qiita
オミータです。ツイッターで人工知能のことや他媒体の記事など を紹介していますので、人工知能のことをもっと知りたい方などは @omiita_atiimoをご覧ください！ 他にも次のような記事を書いていますので興味があればぜひ！ わずか1%のラベルでImageNet高精度「SimCLR」解説 出きたてホヤホヤ！最新オプティマイザー「AdaBelief」を解説！ 画像認識の大革命。AI界で話題爆発中の「Vision Transformer」を解説！ 新たな活性化関数「FReLU」誕生&解説！ 自然言語処理の王様「BERT」の論文を徹底解説 2021/02/28 SimCLRのバッチサイズに関する記述を修正 2020年に大きく盛り上がりを見せた分野に自己教師あり学習(=Self-Supervised Learning(SSL))があります。SSLとは名前の通り自分で教師を用意するような手法で、デー
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
OpenAI の超高品質テキスト→画像生成モデル DALL·E 2 の技術詳細を解説
CLIP : Learning Transferable Visual Models From Natural Language Supervision