はてなブックマーク

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに この記事は前回の研究論文編の続編です．今回は，2021年のおもしろかった深層学習応用事例を紹介します． * 本記事は，私のブログにて英語で書いた記事を翻訳し，適宜加筆修正したものです．元記事の方も拡散いただけると励みになります． 事例4選 紹介するのはこちらの4事例です！ AlphaFold2 GitHub Copilot Airfriend Google Meetの背景効果 AlphaFold2 タンパク質の機能はその構造に依存するため，タンパク質の構造は生物の内部で何が起きているのかを理解するための鍵の一つです．しかし，タ

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 2019年，2020年に引き続き，1年を振り返って最もおもしろかった深層学習の論文を選んで紹介したいと思います．最近，目を通す論文の数が減ってしまったので，今回は取り上げるのを8本とし，別記事として「応用事例編」を書くことにします． * 本記事は，私のブログにて英語で書いた記事を翻訳し，適宜加筆修正したものです．元記事の方も拡散いただけると励みになります． ** 記事中の画像は，ことわりのない限り対象論文からの引用です． 論文8選（公開順） 普段から，読んだ論文を簡単にまとめてツイートしているので，それを使って公開日順に振り返

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 2020年も，機械学習コミュニティでは多くの新しい成果が見られました．2019年に引き続き，1年を振り返ってもっとも面白かった論文を10本紹介したいと思います． * 本記事は，私のブログにて英語で書いた記事を翻訳し，適宜加筆修正したものです． ** 記事中の画像は，ことわりのない限り対象論文からの引用です． 論文10選（公開順） 普段から，読んだ論文を簡単にまとめてツイートしているので，それを使って公開日順に振り返っていきます．対象はおおまかに「2020年に公開された論文」と「2020年に学会・雑誌で発表されたもの」とします．

はじめに 2年ほど前，私はGANというものに出会って感銘を受け，Qiitaで『SushiGAN 〜人工知能は寿司を握れるか？〜』というちょっと釣りっぽいタイトルの記事を書きました．中身はChainerのexampleにあったDCGANの実装を寿司の画像で学習させてみるというもので，下のようなモード崩壊気味の寿司画像を作って満足していました． あれから2年あまりが経ち，画像生成の技術は驚くべき発展を遂げました1．StyleGAN，そしてStyleGAN2が登場し，すぐには見分けがつかないほどの品質で1024x1024の人の顔の画像が生成できるようになりました [1]．そのインパクトは凄まじく，"This Person Does Not Exist"を皮切りに，GANで生成したリアルな偽物のサンプルをランダムに表示するWebサイトがちょっとした流行になりました．いくつか例を挙げると，次のような

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 2019年も終わりということで, 深層学習・機械学習分野の論文で年間ベスト的なものを選ぶ企画がいくつか出ています. Twitterで振り返る2019年のDeep Learning論文（前編） - Qiita 2019年, 俺の読んだ論文50本全部解説(俺的ベスト3付き) - Qiita Top AI & Machine Learning Research Papers From 2019 | TOPBOTS 私も便乗して, 2019年の論文からおもしろかったものを10本選んで振り返ってみたいと思います. お正月休みに読んでみて

はじめに 「深層生成モデルを巡る旅」シリーズ第3回はみなさんお待ちかねの（？）GANのまとめです. GANは綺麗な画像を生成することに長けており, その人気はFlowやVAEと比べても圧倒的です. その一方で, 世にはGANの研究があふれていて, 画像生成に限っても把握するのが困難な状態になっています. 本記事では, 元祖から最新の研究に至る歴史の中で重要と思われるものをジャンル別に紹介したいと思います. 今回も画像生成のみを扱います. GANの基本 GANそのものについての解説は日本語のものに限っても既に多数あるので, ここでは簡単に触れることとし, 後に続く各手法の紹介に集中したいと思います. ご存じの方は飛ばしてください. 全体像 A Beginner's Guide to Generative Adversarial Networks (GANs) | Skymind GANは生成

はじめに 深層生成モデルを巡る旅をしています。 前回はFlowについて理論と各種法の簡単な紹介をしました. 今回はまた別の深層生成モデルとして 変分自己符号化器 (VAE; variational autoencoder) [1] を紹介します. VAEはGANに比べて安定した学習ができ, Flowと異なり潜在変数を低次元に落とすことができるので, その扱いやすさや解釈性から好まれることが多いように感じます. 一方で, 生成画像がぼやけがちである, 尤度の計算ができないといった欠点もあります. この1ヶ月くらいVAEについていろいろと調べてみましたが, GANやFlowのようなモデル乱立状態にはなっていなさそうだったので, 主要な手法を少し詳しめに紹介できればと思います. VAEの基本 最初に, 本記事を読むのに必要な事項をまとめます. 全体像 式での説明は少々長いので, 先にMNISTの

となります. これを$N$次元に拡張するとJacobianの行列式が出てきます. 目的関数 以上のお気持ちと変数変換を踏まえると, Flowの目的関数が導入できます. Flowでは, 尤度$p_x(\boldsymbol{x})$を最大化する代わりに, 同値な操作として負の対数尤度 (NLL; negative log likelihood) を損失関数として最小化します（その方が計算上都合が良いため）. 変数変換と$f = f_1 \circ f_2 \circ ... \circ f_K$ を使って, $\boldsymbol{x}$のNLLを計算していくと, \begin{eqnarray} -\log p_x(\boldsymbol{x}) &=& -\log p_K(\boldsymbol{z}_K)\\ &=& -\log p_{K-1}(\boldsymbol{z}_{K-1

はじめに 千葉県柏市に住む織姫と埼玉県越谷市に住む彦星は恋人同士です. 二人の間には江戸川が流れていますが, 橋は何本も架かっているので, 行き来にこれと言った不便はありません. 至って順調に見える二人の関係でしたが, ある日, 織姫は海外転勤を言い渡されてしまいました... 今日は七夕ということで, 遠距離恋愛を題材に, 「距離」というものについて再考したいと思います. 2点間の距離 2019年3月, 織姫は越谷, 彦星は柏で暮らしていました. 越谷 - 柏 まず, 越谷と柏の間の「距離」をGoogle Mapで調べてみました. ある地点で右クリックをすると"Measure Distance"と出てきます. 結果は「16.87 km」でした. これを経度と緯度から計算することを考えます. Euclid距離 以後, 越谷と柏の座標は次の表で定めます. 経度は東, 緯度は北を正の方向とします

はじめに 本記事は3部作の最終回です. 記号の定義などは第1回の記事をご参照ください. GNNまとめ(1): GCNの導入 - Qiita 種々のGCNを紹介した第2回の記事はこちら. GNNまとめ(2): 様々なSpatial GCN - Qiita 今回はautoencodersによるグラフ埋め込みの獲得やGAN, 時間発展のあるグラフなど発展的な事項を扱います. [1]より引用. その他 第1部, 第2部の小見出しを受けて「その他」という名目でまとめます. AE/VAE 前回までグラフの埋め込みを得るための畳込みについて考えてきましたが, 画像において行われているように, autoencoderやVAEを用いて教師なしの表現学習をしたいと思うのは自然な流れです. しかし, 畳込みの逆演算としてのdecodeの方法は自明ではありません. 本記事では, ニューラルネットを使わずにdeco

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 2018年はグラフを扱う深層学習(GNN; graph neural network)が大きく発展した1年でした. その一方で, 提案される手法が多くなるに連れて, それぞれの関係性や全体像が見えづらくなっている印象があります. その問題を受けてか, 年末頃からこのような図を含むサーベイ論文[1-3]がarXivに立て続けに登場していたので, その内容をまとめてみました. 長いので3部作に分けようと思います. GNNまとめ(2): 様々なSpatial GCN - Qiita GNNまとめ(3): 発展編とこれから - Qii

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 本記事は, こちらの論文の解説です. 原題: Improving Chemical Autoencoder Latent Space and Molecular De-novo Generation Diversity with Heteroencoders 著者: E. J. Bjerrum and B. Sattarov 論文誌: Biomolecules 発表日: 2018年6月15日(第1版) arXiv: https://arxiv.org/abs/1806.09300 ケモインフォでなるべく新しい論文を選びました.

はじめに 深層強化学習の分野では日進月歩で新たなアルゴリズムが提案されています. それらを学ぶ上で基礎となるアルゴリズム(というより概念に近い？)はQ学習, SARSA, 方策勾配法, Actor-Criticの4つだと思われるので, これらを軸としてまとめてみたいと思います. 以下の4点はあらかじめご了承ください. コードは書いていません. 概念のみの説明です 他のアルゴリズムの基礎となりうる重要な概念については詳しく書きました. その他については簡潔に書きました 深層学習についてはある程度理解している読者を想定しています 書いているうちに規模がどんどん大きくなってしまったので, どこかに必ず間違いや不足があります. 「この式がおかしい！」「このアルゴリズムも追加するべき！」などコメントがあればぜひお願いします 全体像 扱うアルゴリズムを相関図にしてみました(私のイメージです). まず,

はじめに SUSHI食べたい！ということで，DCGANで寿司の画像を生成してみました． やったことは，Chainerのサンプルコードを少し変えて実行しただけです．予めご了承ください． 原理の紹介 今回使用したGANについて, 簡単に原理を解説します. GAN **敵対的生成ネットワーク(generative adversarial networks; GAN)**は, 2014年にMontreal大学(当時)のIan Goodfellowが考案したネットワークで, ノイズからこのような「本物らしい」画像を生成することができます. それぞれの画像において, 一番右の列は隣の列から最も近い教師画像です. すなわち, 左5列の画像は教師データとは異なり, かつ本物らしい画像ということになります. では, どのようにして画像を生成するのでしょうか？ GANはこのような構成になっています. A Be

$10^{360}$というと，もう「億」や「兆」のような名前すらない規模でイメージもできませんが，観測可能な宇宙に存在する原子の総数と言われている$10^{80}$よりもずっと大きいのですから驚異的です． ちなみに，情報の世界では「天文学的数字」よりも大きい数字がしばしば出てくるので，「組合せ論的数字」なんて言い方も耳にすることがあります． この膨大なパターン数が原因で，AlphaGoが開発されるまでは「AIが囲碁で人間に勝利するまであと10年はかかる」と言われていましたが，2016年にディープラーニングを応用したAlphaGoが李世乭九段を破り世界を驚かせました． AlphaGoのすごさを感じていただけたでしょうか？でも，$10^{360}$の世界で戦う人間の棋士もすごいですよね． ともあれ，囲碁は難しいので私はオセロにしました． 必要なもの ディープラーニングの基礎とChainerの基

本記事はU-TOKYO AP Advent Calendar 2017の17日目です. はじめに 年の瀬が近づき何かと出費がかさむ季節になりましたね. 財布の中も真冬です. 実は2ヶ月ほど前から年越しに備えて仮想通貨で資産運用をしています. 他の資産運用と比べたときの仮想通貨取引のメリットは「少額でも大きな利益を得るチャンスがあること」と「24時間365日取引ができること」でしょうか. ということで, その時に自動取引についていろいろと試行錯誤をしたので, 勉強したことをまとめて記事にしたいと思います. 具体的には, PythonでbitFlyerのAPIを叩いてチャートを描画し, 決められたアルゴリズムに従って自動でビットコインの売買をする, という一連の流れを紹介します. ごく簡単な紹介にとどめるので, その先は各々で試して自分なりのやり方を考えてほしいです. *僕は仮想通貨に関しても