Xformersについて 追加ライブラリの一つ。 生成AI分野でしばしば使われる。画像生成だけでなく、言語生成などにも。 https://github.com/facebookresearch/xformers Xformersによる高速化について Xformersを有効化すると、次の効果を得ることができます。 画像生成速度の大幅な向上 使用するVRAM量の大幅削減 恩恵が大きいので、基本的に導入したほうがよいでしょう。 「cuda out of memory」エラーが発生したときに、お世話になるオプションです。 PyTorch2系の高速化について どこに書こうか迷いましたがとりあえずここに書きます。 PyTorch2系にアップデートすると"--opt-sdp-attention --opt-sdp-no-mem-attention"のパラメータ を--xformersの代わりにCOMMA
![としあきdiffusion Wiki*](https://cdn-ak-scissors.b.st-hatena.com/image/square/2af9275ab7c1674d461cc6fa05416d4c88dd98aa/height=288;version=1;width=512/https%3A%2F%2Fcdn.wikiwiki.jp%2Fto%2Fw%2Fcommon%2Fimage%2Fwikiwiki_ogp.png%3Fv%3D4)