Radeon上でStable Diffusionの性能を9.9倍にする最適化手法。AMD公開

[Listlessness]

NVIDIA一強はよろしくないのでAMDには頑張ってもらいたい

[toaruR]

『FP32からFP16に変換)するなどの処理で、モデル処理を大幅に簡素化』……おい( ´∀｀)σ)∀`)

[fashi]

最適化に時間掛かるのと最適化したらGeForceでも速くなるのでは…

[Imamura]

Radeonはもともとがとても遅いから10倍程度では全然じゃないかなあ

[misshiki]

“AMDは18日に、Radeon RX 7900 XTX上で動作するStable Diffusionを最適化し、最大9.9倍高速化できる手法をブログで公開した。”

[knok]

https://pytorch.org/blog/pytorch-for-amd-rocm-platform-now-available-as-python-package/ PyTorch ROCm対応とかAMDの人もやってるものだと思ってたけど

[BlueSkyDetector]

"ほとんどのレイヤーをFP32からFP16に変換" 高速化はするけど精度が落ちないとは言ってない……ってこと？

[anigoka]

うーん、元ブログ見たけど、つーてもDirectMLなので9倍でも誤差範囲のような…あー空から16GBくらいのVRAMついた謎企業のボード堕ちてこねぇかなぁ（←ジャンク

[pendamadura]

当社比

[kako-jun]

ゲームを遊べてAIの学習&実行にも使える、という強い購買動機のあるGeForceと違って、CUDAのないRadeonは直感的には1/10くらいしか売れなそうなのに、むしろ売れてるのスゴイ。安いからかな……

[Balmaufula]

10倍界王拳！