incepのブックマーク - はてなブックマーク

NIPSの採択論文から見る機械学習の動向　[更新] - HELLO CYBERNETICS
12月に開かれる機械学習のトップカンファレンスであるNIPS。ここで採択された論文から、近年の機械学習手法の研究動向を見てみたいと思います。 NIPSとは検索ワードディープ(deep) スパース(sparse) 最適化(Optimization) 強化学習(Reinforcement learning) ベイジアン(bayesian) バンディット(bandit) リグレット(regret) グラフィカルモデル(graphical models) 劣モジュラ(submodular) SVM 所感 DEEPMIND ディープ最適化 NIPSとは Neural Information Processing Systems(NIPS)は機械学習のトップカンファレンスです。名前とは異なって、必ずしもニューラルネットを扱っているわけではありません。あくまで機械学習の話題全般的に扱っています。
incep 2017/12/13
NIPS2017 (Fukumizu 先生の論文がBPA受賞) のトレンドとも突き合わせて今年の動向を見ておきたい

ml

dl
リンク
深層学習：ハイパーパラメータの設定に迷っている人へ - HELLO CYBERNETICS
既に深層学習は、chainerやtensorflowなどのフレームワークを通して誰の手にも届くようになっています。機械学習も深層学習も、あまりよくわからないが試してみたいなという人が数多くいるように思います。そして、実際に試している人たちもたくさん居るでしょう。そんなときにぶち当たる壁は、多種多様なハイパーパラメータの設定です。これはテストデータの精度に対して、試行錯誤を繰り返しながら決めていくしかありません。しかし闇雲に値を変えて試してみてもあまり良い成果は得られないでしょう。今回は、各ハイパーパラメータがそもそもどのような効果を持っているのかをまとめ、学習を行う際の指針になるようにしたいと思います。ハイパーパラメータとはユニットの数をどうするべきか中間層のユニットの数を膨大にする中間層のユニットの数を少なくする結局どちらが良いのか荷重減衰荷重減衰の効果荷重減衰の
incep 2017/08/08
ml

dl

hidden_layer

parameter
リンク
時系列データ：隠れマルコフモデルの基礎と、リカレントネットの台等 - HELLO CYBERNETICS
はじめに隠れマルコフモデル確率分布として考える隠れていないマルコフモデル隠れマルコフモデル隠れマルコフモデルの学習隠れマルコフモデルでの予測隠れマルコフモデルで何ができるかリカレントネットリカレントネットの構造時間方向への展開深層学習について記事はじめに隠れマルコフモデルでは、時系列的に変動するデータを確率的なモデルで表現します。通常の機械学習手法（例えばサポートベクターマシン）などでは、データは各時刻毎に独立したデータであると仮定しており、そのデータの順番に意味がないという前提を持っています。（厳密には更に強く仮定をし、各データ点はある一つの確率分布から生起しているとし、各データ点同士は独立であるとする。これを独立同分布に従うデータと言う。）一方で隠れマルコフモデルでは、データの変動（隠れマルコフモデルでは遷移と呼ぶ）が確率的に起こっているとしてその部分を
incep 2017/05/18
hmm

rnn

state-space

ssr
リンク
今更ながら深層学習の書籍 - HELLO CYBERNETICS
深層学習の書籍は何冊か所持していますが、深層学習の勉強が進み、今改めて見ると本に対する印象がだいぶ変わったように思います。今回は、理解が進んだ今だからこそ見える書評してみます。深層学習の書籍深層学習（機械学習プロフェッショナルシリーズ）深層学習(人工知能学会) 進化計算と深層学習　創発する知能機械学習と深層学習　C言語によるシミュレーション深層学習（機械学習プロフェッショナルシリーズ）おすすめポイント注意点深層学習(人工知能学会) おすすめポイント注意点残りの2つ進化計算と深層学習機械学習と深層学習　C言語によるシミュレーション深層学習の書籍私が所持している深層学習の書籍達です。今回は、私が特によく参照している上2つの本を紹介します。深層学習（機械学習プロフェッショナルシリーズ）深層学習 (機械学習プロフェッショナルシリーズ) 作者: 岡谷貴之出版社/メ
incep 2017/04/15
ml

dl
リンク
1