Chainerでfine-tuningを行う - Qiita

すでにトレーニングされたモデルからWやbなどの重みを取得することで、より早く学習を進めることができる (fine-tuning)。 モデル自体が完全に同じ場合には当然使えるし、モデルの一部を修正して使用する場合にも、変更の必要がない層に関しては、あらかじめ学習済みのモデルから重みを借用するのが良い。例えば、分類先の画像種類が1000種類から10種類に切り替える場合などは、最終の全結合層のみ切り替える必要はあるが、それ以前の畳み込み層などは変更の必要性は少なく、その部分の重みを使用することができる。 計算時間短縮に結びつく背景には、以下のような点が挙げられる： - あらかじめ大量の計算資源を使用して収束した時点の結果を使用するため、それまでの計算時間を省略可能。特に、畳み込み層の第一層はガボールフィルタに近似するという研究も多く、あえてそこを新規で学習させる必要性はあまり感じられない - ま

[hsato2011]

重み

[johshisha]

重み固定

[santo]

Chainerでの転移学習

[elu_18]

留学生氏が、「chainerでfine-tuningするとき更新したくない重みどうやって固定すんだよマジ○○○○○」って言ってたので探してみたらそれっぽい日本語記事があった。 これが言語による情報格差ってやつか・・・ https://t.co