Gunicorn の gthread と freethreading - methaneのブログ

前回は sync worker が uwsgi の置き換えになるかという視点で調べていましたが、次は gthread について調べてみます。 sync worker はシンプルに次のような処理をしていました。 accept (複数socketをlistenしている時は select->accept) リクエストを受け取る wsgiアプリを実行する レスポンスを返す close gthread は次のような処理になります。 メインスレッド epoll等で listen socket やリクエスト待ちの接続を監視する listen socket の場合: accept してスレッドプールに投げる リクエスト待ちの接続の場合: スレッドプールに投げる スレッドプール リクエストを受け取る wsgiアプリを実行する レスポンスを返す keep-alive可能な場合はメインスレッドの監視対象に戻す。

[tmatsuu]

「時々遅くなる外部APIを利用していて、その時にworkerが詰まってサービスが停止するのを回避したいという時にはgthreadが選択肢」はい。