Information Dropoutの数理とKeras実装
※ This is a Japanese version. The English version is here. Information Dropoutという手法がある。 元々は深層学習の過学習を避けるために提案されていたテクニックであるDropoutを、与えられたタスクに対する最適なデータの表現を学習するInformation Bottleneckの観点から一般化する、という内容である。 この論文は2016年11月4日にarXivに初稿がアップされ(arXiv:1611.01353)、ICLR2017に投稿されていた。 残念ながら採択はされなかったが、レビュー結果には The authors all agree that the theory presented in the paper is of high quality and is promising but the expe
Juliaを使ったニューロンの発火時系列の生成と推定
脳科学若手の会という団体のイベントでHonda Research Instituteの島崎秀昭先生に点過程によるニューロンの発火時系列の生成と推定に関するワークショップを依頼した。 ニューロンは発火活動という膜電位の急激な変化を通して互いに情報を伝達しあっている。 その発火系列は各時刻ごとに発火or非発火のバイナリで表される時系列データのため、点過程という統計的手法を用いてモデリングを行うことができる。 ワークショップではニューロンの発火時系列の解析の基礎となる点過程について島崎先生からご講演いただき、プログラミング言語Juliaを用いて参加者が各自コーディングに取り組んだ。 自分は運営スタッフとしてワークショップのコーディング部分のチューターを担当し、サンプルコードの作成とコーディングの補助を行った。 ここではその内容を備忘録として簡単に記事にまとめる。 内容としては発火頻度が時間変化す
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
