エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
LangChainのレスポンスをStreamlitでStream表示する - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
LangChainのレスポンスをStreamlitでStream表示する - Qiita
はじめに StreamlitとLangchainを組み合わせたときに、単純に処理を組むとChatGPTのようにストリーム表... はじめに StreamlitとLangchainを組み合わせたときに、単純に処理を組むとChatGPTのようにストリーム表示(応答をリアルタイムに表示)になりません。 順当なやり方かどうかはわかりませんがうまくいった方法を共有しようと思います。 Streamlit用のコールバックハンドラー LangchainにはAPIのレスポンスをハンドリングするハンドラークラスが用意されています。 ドキュメント上には書かれていません1が、リポジトリ上にStreamlit用のクラス(StreamlitCallbackHandler)があるのでこれを利用します。 しかし、単純にこのクラスを利用するとLangchainが初回に送っているプロンプトの内容なども表示されてしまうので、純粋にレスポンスのみを表示するためにはクラスをラップします。 ラッパークラスをつくる 以下のようにラッパークラスを定義し、コールバッ