未学習のニューラルネットに隠された「当たりくじ」 - Qiitaはじめに 従来式のニューラルネットでは, 未学習のニューラルネットに対し, 各辺の重みを徐々に変化させることで学習を行います. これに対し本記事では, 未学習のニューラルネットに対し, 重み更新なしで学習が可能な画期的な一風変わった手法"edge-popup algorithm"[1]を紹介します. 元論文: What's Hidden in a Randomly Weighted Neural Network? 公式実装: https://github.com/allenai/hidden-networks/blob/master/simple_mnist_example.py 本記事ではedge-popup algorithmがどういった着想で編み出されていて, 何を行うアルゴリズムか, どの程度高い性能が出るか, どういった後続研究があるかを順を追って見ていきます. 宝くじ仮説とは
