バッチサイズ: 基本的に大きければ大きいほどよい(学習ステップ数がバッチサイズで除されるので計算時間が短くなる)、out of memoryにならないギリギリを攻める。 エポック数: 学習強度を高める場合にはエポック数を多くしておく。1エポックごとに出力させておくと過学習にならないラインを把握できる。 繰り返し数: 正則化画像を利用しない場合には1でよい。その場合はエポック数を大幅に引き上げればOK(合計ステップ数が同じであればほとんど同じ学習結果になった) 正則化画像を利用する場合には主データセットとの枚数が等しくなるように調整する。 オプティマイザ: AdamW, AdamW8bitどちらを使っても良いが、AdamW8bitを使うとプロンプトへの応答性や手足の描画など、学習の精度が結構落ちた。また、VRAM削減効果は学習対象のサイズに依存するので精度低下とのバランスを考えるとAdamW
![Stable Diffusion用LoRAのハイパーパラメータ備忘録|paseri](https://cdn-ak-scissors.b.st-hatena.com/image/square/b22f3dbc4884b15e3f9910ee313451b0e73fd090/height=288;version=1;width=512/https%3A%2F%2Fd2l930y2yx77uc.cloudfront.net%2Fproduction%2Fsocial_images%2F480ac7aac7154342b2f5bc26d6aedb076de59590.png)