Pythonのhttpx (async) はサービスに支障が出るほど遅い、ただしコネクションプールを切ると速くなるかも - Islands in the byte stream

httpxはものすごく遅いから使うべきでないかもしれない…という話を書こうと思ったんですが、検証してみたら、確かにaiohttpよりは2倍以上遅いんですが、設定次第で多少はマシかもしれない、という結論です。 前提として、async modeです。いまどきのAPI serverは全部asyncかなとは思います。今回はsync modeには興味がないので検証してないですが、sync modeではまったく違う結果かもしれません。 あと文脈としては httpx を推しているブログを読んで、いや httpx はパフォーマンスに問題があるんだよな、ということを周知したかったというのもあります。 note.com ことの起こりは Python の openai library が 0.x から 1.x になったときにものすごくパフォーマンスが劣化したという問題があったことです。 github.com い

[gfx]

書いた

[misshiki]

“httpx vs aiohttp の速度を単純に比較するとたしかにaiohttpのほうがどんな状況でも2倍以上高速なので、速度という点からはaiohttpを選ぶべきです。”

[koh023]

検証助かる!

[kkobayashi]

ループ回して遅くなってるぽいからバグに近いパフォーマンス劣化じゃないかなあそれは

[nmcli]

バグなら待ってれば直るのだろうか

[yarumato]

“httpxはものすごく遅いから使うべきでないかも…、検証してみたら、確かにaiohttpよりは2倍以上遅いが、設定次第で多少はマシかも”

[pico-banana-app]

httpx、asyncだとaiohttpの倍以上遅いのかｗ コネクションプール切ればマシらしいが、微妙じゃね？

[sasasin_net]

面妖な挙動だ