NVIDIA、Stable Diffusionを倍速にするTensorRT。新ドライバで対応

[colonoe]

TensorRTを使ったときに早くなるが、TensorRTはものすごく不便で全然使われてないのであまり意味がないと思われる

[misshiki]

“WebUI「Automatic1111」版のStable Diffusionの処理速度を倍速にするTensorRTアクセラレーションを追加した。”

[tasukuchan]

“Diffusion”

[deejayroka]

“本ドライバでは、WebUI「Automatic1111」版のStable Diffusionの処理速度を倍速にするTensorRTアクセラレーションを追加”

[point2000]

TensorRTは確かに画像生成が爆速になる上にLoRAにまで対応しているらしいんだけどどうもそれぞれTensorRT形式に変換しないといけないらしいんだよな…うーむ

[fai_fx]

https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT ホントにAutomatic1111向け機能拡張なのね。ComfyUI はどうなんでしょ...

[KoshianX]

ほー、LLMも高速になるのかな? 画像生成AIだけ?

[NEXTAltair]

Nvidiaが直接ホーチミン版の拡張出してくるのか