ChatGPT APIとCloudflareを使って過去の会話を覚えてるLINEボットを構築する

ChatGPT APIのChat Completion APIを用いて、チャットの入力に対してその回答をレスポンスで返してくれます。 このチャットの入力に過去のチャットの内容を含めることで、過去の内容を前提とした回答を行うことができますが、これを実現するには、過去のチャットの内容を永続化しておく必要があります。 ユーザーインターフェースとしてLINE(LINE Messaging API)、LINEからの処理受付とChatGPTへのリクエスト、チャット内容の永続化をCloudflareを使って、過去の会話を覚えてるLINEボットを実現することができました。 本記事では、Cloudflare側の構成について紹介します。 [ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめのCloudflare版の内容になりま

[shunkeen]

会話を無制限に永続化すると、ChatGPT APIの扱えるトークン数に上限がある場合は、いつかエラーになる。ない場合は、APIの使用量が過去の会話分毎回かかって不経済。そこらへんはどうなっているんだろうか。

[teckl]

Cloudflare QueuesとD1を使ってて良さげ

[cartman0]

過去の内容はtwiteerとかnostrみたいなマイクロブログのツリー向いてそうよな

[a-know]

“LINE Messaging API のwebhookを利用していますが、ボットサーバーは1秒以内にレスポンスを返す必要がありそうでした。” あーそっか

[kamawada]

Queue使ってる！