この記事はGPT3.5-turboが公開されたような、AI時代初期に作成されたものです。各種古い情報があるため参考程度にご覧ください。(現在はweb socketではなくsseを用いてstreamを実現することが一般的です) 先日ChatGPTに使用されているGPTモデルであるGPT3.5-turboのAPIが公開されました。 以前のGPT3と比べ、コストが1/10となっていたり、体感速度が向上していたりと、サービスに使用するにあたってかなりハードルが下がったように思います。 前回記事ではGPT3のAPIについて、LangChainで使用し、FastAPIとReactでAIとチャットするシンプルなアプリケーションを作成しました。前回作成したものは、会話の履歴を保持する仕組みを持たなかったため、ChatGPTと異なり、AIが会話の文脈を理解してくれませんでした。 今回は前回作成したReact

