ChatGPTをぬるぬるにする🐌Server-Sent Eventsの基礎知識

単方向通信であるということと、HTTP/1.1上で動作しているのが大きな特徴です。 また、HTTP上で動作することから、通信の互換性が高く、セキュリティモデルも使いまわせるので安心です。 どんな用途と相性がいいの？ 双方向通信がしたいわけでなければ、相性の幅がとても広いです。 今回の ChatGPT のような、GPT がトークンを生成するごとに送るケースはもちろん、通知の未読件数バッジの更新、ニュース速報の表示など、サーバからイベントを送りたい時ならなんでも使えます。 HTTP/1.1で動くカラクリ SSEはHTTPのレスポンスヘッダにContent-Type: text/event-streamを指定した上で動作します。 SSEが動く流れ クライアントがサーバーに HTTP/1.1 リクエストを送信し、イベントストリームに接続します。 サーバーは、Keep-Alive 接続を使用して、T

[kvx]

sse知らずにポーリング実装した過去の辛い思い出。

[superchibita]

昔のCometよな。

[mayumayu_nimolove]

あれの表現ってぬるぬるが正解なのかな

[ysugitani]

SSEとFastly組み合わせると10万人相手でもチャット配信とかBase64エンコードしたWebP画像を低fpsでばらまいたりとかできるよ！ / SUGARというサービスでやった/ https://www.fastly.com/blog/server-sent-events-fastly

[napsucks]

1文字流すのにものすごい付加情報がつくのね。贅沢な世の中だ。

[ardarim]

チャンク転送かな…と思いつつ読み進んだらやっぱりそうだった。意外とレガシーな技術も再利用されてんのね

[razokulover]

OpenAIのAPI、stream: trueとすると、SSEを使ってくれるの知らなかった。リアルタイム通信系はSSEで済む案件だいぶ多いんだよなー

[shingo-sasaki-0529]

SSE 全然知らなかった。 この手のは WebSocket が一般的と思ったけど HTTP 上でもこういうイベントストリーム昔から作れたのね。

[peperon_brain]

恥ずかしながらWebSocket以外にこういう規格があると知らなかった。

[knok]

あんまり利用されてないようで、Railsで実装しようと思ったらworkaroundが必要だった https://github.com/jpmobile/jpmobile/issues/248

[yarumato]

“ChatGPTを使って文字がどんどん出てくる表示。右側の例と比べると文章が全て表示されるまでの時間は同じですが、ユーザー体験が全然違う。HTTP/1.1上で動作している。ブラウザ上でもcURLと同様にストリームを受信”

[rdlf]

へぇぇぇ。そうなんか。

[qdi0]

あとでやる