Information Dropoutの数理とKeras実装

※ This is a Japanese version. The English version is here. Information Dropoutという手法がある。 元々は深層学習の過学習を避けるために提案されていたテクニックであるDropoutを、与えられたタスクに対する最適なデータの表現を学習するInformation Bottleneckの観点から一般化する、という内容である。 この論文は2016年11月4日にarXivに初稿がアップされ(arXiv:1611.01353)、ICLR2017に投稿されていた。 残念ながら採択はされなかったが、レビュー結果には The authors all agree that the theory presented in the paper is of high quality and is promising but the expe

[bigchu]

Information Dropout / サンプリング / keras

[masatoi]

修論で扱ったinformation bottleneckクッソ懐しい

[elu_18]

書いた https://t.co/WZT7vcUhjo