変分法 −無限次元空間の臨界点を見出す− - Laborify
こんにちは。高橋 和音 (Kazune Takahashi) と申します。現在は、東京大学大学院 数理科学研究科で特任研究員をしております。この記事では、変分法の概説を試みます。変分法は、微分方程式を考察する代表的な手法です。自己紹介がわりに、どうして変分法を専門にしたのかまず話したいと思います。 私は、大学の数学を勉強し始めてから、積分の世界の素晴らしさに魅了されました。 高校までですと、積分は原始関数を介して求めます。ところが、大学以降に勉強する高度な手法を使うと、例えば原始関数が書けない関数の定積分の正確な値が求まるケースがあります。また、正確な値を求めることができずとも、ある値よりも小さい or 大きいことが分かることが重要である場面も増えてきます。そういう一連の手法が好きになりました。 以下で「汎関数」が出てきますが、変分法で使う汎関数は、関数の積分で書かれます。変分法は、積分を
線形回帰を１つ１つ改造して変分オートエンコーダ（VAE）を作る - 作って遊ぶ機械学習。
こんばんは． 今日は統計や機械学習において最も基本となる手法である線形回帰から出発し，１つ１つモデルや学習方法に変更を加えていき，最終的に深層学習の分野で非常に良く使われている生成モデルである変分オートエンコーダ（variational auto-encoder，VAE）*1*2を導いていきたいと思います． 2014年に発表されたVAEは，勾配近似を得るためのreparametrization trickや，効率的に潜在変数を近似推論する認識モデル（recognition model, inference model）の導入，確率的勾配法（stochastic gradient descent，SGD）の2重適用など，様々なアイデアが散りばめられている確率的生成モデルです．背景としては，当時ニューラルネットワークを用いて画像を生成するといったアプローチが（CNNを使った識別などと比べて）そ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
