MLPシリーズ「ベイズ深層学習」概要まとめ - 作って遊ぶ機械学習。
今回は８月に出版した講談社機械学習プロフェッショナルシリーズの「ベイズ深層学習」の概要を書いてみます． www.kspub.co.jp 講談社のページ等では目次は載っていますが，それより詳細な情報はネットにはないので，もう少しだけ踏み込んだ内容をここで紹介することにします． 内容紹介 第1章 はじめに ベイズ統計と深層学習（ディープラーニング）は仲が悪いように世間的には見られがちですが，実は両者は非常に親和性が高いことを解説しています． 両分野のそれぞれの利点としては，ベイズ統計ではモデルの高い解釈性や設計の明確さ，深層学習ではGPUなどを用いた大規模データの効率的な計算方法等を挙げることができます．これらの利点は相補的であり，組み合わせることによってアルゴリズムの改善が期待できます． また，両分野には共通点もあります．深層学習ではタスクごとにネットワーク構造を設計する必要性がありますが，
Concrete Distributionについて論文を読んだ - 機械学習とかコンピュータビジョンとか
はじめに The Concrete Distribution: A Continuous Relaxation of Discrete Random Variablesを読んだのでメモ． ICLR2017の論文でGumbel Max Trickをベースに離散分布を連続分布に緩和することでVAEなどに応用しようというもの．Gumbel Max Trickについては以前に記事を書いた． Concrete: CONtinuous relaxation of disCRETE VAEでは正規分からサンプリングする際，reparameterization trickを使って微分可能な形でサンプリングをすることで正規分布をデータの分布として仮定したautoencoderを学習した．今回読んだ論文では正規分布のような連続分布ではなく離散分布（カテゴリカル分布）をデータの分布として仮定したいというもの．
ABC model choice by random forests [guest post]
[Dennis Prangle sent me his comments on our ABC model choice by random forests paper. Here they are! And I appreciate very much contributors commenting on my paper or others, so please feel free to join.] This paper proposes a new approach to likelihood-free model choice based on random forest classifiers. These are fit to simulated model/data pairs and then run on the observed data to produce a p
![ABC model choice by random forests [guest post]](https://cdn-ak-scissors.b.st-hatena.com/image/square/3f37560b20c1114c6b70e756a7959d84ad326267/height=288;version=1;width=512/https%3A%2F%2Fxianblog.wordpress.com%2Fwp-content%2Fuploads%2F2009%2F08%2Ftreerise6.jpg)
ベイジアンネットワークを使ったウェブ侵入検知
はじめに 私たちが提供しているSaaS型のWAFサービス、Scutum（スキュータム）では、より高精度な攻撃検知を実現するために、ベイジアンネットワークの技術を利用しています。今回は「ウェブセキュリティ」「不正検知」「異常検知」「攻撃検知」といった観点から、ベイジアンネットワークについて解説します。 ベイジアンネットワークとは？ ウィキペディアによると、ベイジアンネットワークは次のようなものです。 ベイジアンネットワーク（英: Bayesian network）は、因果関係を確率により記述するグラフィカルモデルの1つで、複雑な因果関係の推論を有向グラフ構造により表すとともに、個々の変数の関係を条件つき確率で表す確率推論のモデルである。 非常に的を射た説明ですが、「わかっている人にはわかるし、わかっていない人にはわからない」という感じもするかもしれません。基本からしっかり理解したいという場合
条件付き確率場(CRF)メモ - Negative/Positive Thinking
条件付き確率場とは？ 対数線形モデルを系列ラベリング問題へ適用したもの 対数線形モデルメモ http://d.hatena.ne.jp/jetbead/20110923/1316794767 一般には、系列だけでなくグラフの頂点のラベルにも適用できる 系列の場合は、「linear-chain CRF」と呼ばれる 条件付き確率P(y|x)がMarkov確率場の構造を持つモデル これを仮定するので、一つ前のもののみを考えてもよいことになるっぽい 系列ラベリング 系列 要素が連なったもの(単語が並んでいる「文章」など) 系列ラベリング 系列の各要素にラベルを付けること 分類モデルでは、多クラス分類でも高々数十個に分類するだけ 系列ラベリングでは、分類の可能性はラベルの付け方だけあり得る 例えば、ラベルが10種類で要素が20個ならばラベル列は10^20通り(のクラス分類)になってしまう データの形
ガウス過程(Gaussian processes)に関するメモ（１） 正田 備也 平成 19 年 7 月 15 日 本稿の参考文献は [1] です．その第 2 章を縮めて紹介しますが，直接読むほうが分かりやすいかもしれません．
ガウス過程(Gaussian processes)に関するメモ（１） 正田 備也 平成 19 年 7 月 15 日 本稿の参考文献は [1] です．その第 2 章を縮めて紹介しますが，直接読むほうが分かりやすいかもしれません． 1 雑音をともなう線形回帰モデル あるブラックボックスがあって，p 次元のベクトル x が入力として与えられると，ひとつの数値 y を出力すると します．このブラックボックスの中身がどうなっているのかを説明するために，モデルをつくることにします．本 稿では，ガウス雑音をともなう線形回帰モデルを考えます．これは f(x) = x w, y = f(x) + ε (1) という式で書くことのできるモデルです．まず，入力ベクトル x と，モデルのパラメータであるベクトル w との内 積が求められます．これでひとつの数値 f(x) が得られますが，さらにガウス雑音 ε が
Gaussian Processes for Machine Learning: Book webpage
Carl Edward Rasmussen and Christopher K. I. Williams The MIT Press, 2006. ISBN 0-262-18253-X. Gaussian processes (GPs) provide a principled, practical, probabilistic approach to learning in kernel machines. GPs have received increased attention in the machine-learning community over the past decade, and this book provides a long-needed systematic and unified treatment of theoretical and practical
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://www.jstage.jst.go.jp/article/jsiamt/23/3/23_KJ00008829130/_pdf
機械学習における最適化理論と学習理論的側面 (第二部:非凸確率的最適化と再生核ヒルベルト空間の最適化)
ノンパラメトリックベイズ法による 言語モデル