Tiago Ramalho · AI research in Tokyo
Building AI for sustainability at Recursive. I used to be a Research Engineering Manager at Google Deepmind, and a Research Scientist at Cogent Labs. I love to cook and go on long hikes. Currently based in Tokyo. Fine-tune neural translation models with mBART Jun 2020 by Tiago Ramalho mBART is another transformer model pretrained on so much data that no mortal would dare try to reproduce. This mod
【ディープラーニング】ChainerでAutoencoderを試して結果を可視化してみる。 - Qiita
ChainerでAutoencoderを試してみる記事です。前回の記事、「【機械学習】ディープラーニング フレームワークChainerを試しながら解説してみる。」の続きとなります。ディープラーニングの事前学習にも使われる技術ですね。 本記事で使用したコードはコチラから取得できます。 1.最初に AutoencoderとはAuto(自己) encode(符号化)er(器)で、データを2層のニューラルネットに通して、自分自身のデータと一致する出力がされるようパラメーターを学習させるものです。データだけあれば良いので、分類的には教師なし学習になります。 学習フェーズ こんなことをして何が嬉しいのかというと、 入力に合わせたパラメーター$w_{ji}$を設定できる。（入力データの特徴を抽出できる） その入力に合わせたパラメーターを使うことでディープなニューラルネットでの学習を可能にする（ランダム値
RNNによる学習で文豪っぽいテキストを出力させる (aka DeepDazai)
Chainerでなにを学習させよう？ 前回のエントリで、CUDAの使えるAWS上のchainerでバリバリ学習できるようになった。けど、何を学習させよう？ロボットで使うのはおいおいやるとして、DNNのノウハウみたいなのを勉強するのによい題材がなんかないかな〜。 やはりRNNが面白いなあと思う。画像認識(CNN)とかもいいんだけど、時系列データを扱えるRNNはロボットにも応用が効きそうだ。PFNさんのロボットデモもすごく面白いと思うし。 で、このブログ記事をたまたま知って、コンテンツ自動生成がいいのではと。 Andrej Karpathy blog : The Unreasonable Effectiveness of Recurrent Neural Networks この記事では、RNNでシェイクスピアの著作データからシェイクスピアっぽい文章を自動生成したり、LaTeXの論文データからそ
The Unreasonable Effectiveness of Recurrent Neural Networks
May 21, 2015 There’s something magical about Recurrent Neural Networks (RNNs). I still remember when I trained my first recurrent network for Image Captioning. Within a few dozen minutes of training my first baby model (with rather arbitrarily-chosen hyperparameters) started to generate very nice looking descriptions of images that were on the edge of making sense. Sometimes the ratio of how simpl
Hacker's guide to Neural Networks
Note: this is now a very old tutorial that I’m leaving up, but I don’t believe should be referenced or used. Better materials include CS231n course lectures, slides, and notes, or the Deep Learning book. Hi there, I’m a CS PhD student at Stanford. I’ve worked on Deep Learning for a few years as part of my research and among several of my related pet projects is ConvNetJS - a Javascript library for
chainer-Variational-AutoEncoderを使ってみた - studylog/北の雲
最近早起きした日は北海道神宮・円山公園へリスに会いに行ってます。山のリスと違って人馴れしまくってて自分から足元にやってくるエゾリス。多分エサやってる人がいるんだろうな。こんな至近距離で撮れたのは初めてなので記念にアップ。 近所を散歩してたらリスに囲まれるなんて、北海道ってやっぱりすごい。贅沢。 Variational-AutoEncoder 略してVAEとやらを最近勉強してますが論文・日本語の解説・コードを見ても何がなんだかわからない。わからないんだけど面白そう。 応用例。 http://deeplearning.jp/wp-content/uploads/2014/04/dl_hacks2015-04-21-iwasawa1.pdf http://www.slideshare.net/beam2d/semisupervised-learning-with-deep-generative-
chainerのサンプルコードを集めてみた(チュートリアルも追加) - studylog/北の雲
(2016.1.21追記)最近あまりメンテナンスしてないので1.5以上のバージョンを使ってる人には役に立たなくなったかもしれません。 (2015.12.15追記)当初はサンプルコードにリンクを貼っただけの記事でしたがチュートリアル等も含めたものに加筆中。また古くなった情報は順次削除・更新してます。 バージョンごとの互換性など こっちに移しました。1.5以上を強くお勧めします。 chainerのバージョンごとの違い(2016年1月19日現在) - studylog/北の雲 1.0 1.1 1.2 黎明期バージョン 1.3 1.4 CuPy導入 1.5 1.6 色々とパワーアップした現世代 概要・チュートリアル 概要を掴むのに適したスライド 1.5以上から始めるならこちら。 Chainerチュートリアル -v1.5向け- ViEW2015 内容は重複していますが1.4以前のバージョン時代のチュ
機械学習アルゴリズムの選択方法 - Azure Machine Learning
よくある質問は、「どの機械学習アルゴリズムを使用すればよいか」ということです。 選択するアルゴリズムは、主として、データ サイエンス シナリオの次の 2 つの異なる側面によって決まります。 データを使って何をしたいか? 具体的には、過去のデータから学習することによって回答を得たいビジネス上の質問は何かということです。 データ サイエンス シナリオの要件は何か? 具体的には、ソリューションでサポートする精度、トレーニング時間、線形性、パラメーターの数、特徴の数はどのくらいかということです。 Note デザイナーは、従来の事前構築済みコンポーネント (v1) とカスタム コンポーネント (v2) の 2 種類のコンポーネントをサポートします。 これら 2 種類のコンポーネントには互換性がありません。 従来の事前構築済みコンポーネントは、主にデータ処理や、回帰や分類などの従来の機械学習タスク向け
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
