エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Bedrockのストリーミングレスポンスをストリームのまま返却するLambdaの作り方(LangChainも対応) - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Bedrockのストリーミングレスポンスをストリームのまま返却するLambdaの作り方(LangChainも対応) - Qiita
Bedrockを使ったアプリをLambdaで動作させたい! レスポンスはストリームで返したい!! と思って調べた... Bedrockを使ったアプリをLambdaで動作させたい! レスポンスはストリームで返したい!! と思って調べたところ、結構条件があることがわかりました。 ストリーミングレスポンスを返却するための条件 ストリーミングレスポンスを返却するためにはいくつか条件があります。 Lambdaの実装方法の条件 Lambdaの実装方法が、以下の方法である必要があります。 Node.jsのマネージドランタイム カスタムランタイム(参考) Lambda Web Adapter(参考) Pythonなどのマネージドランタイムではストリーミングレスポンスがサポートされていませんので、注意が必要です。 Lambdaの呼び出し方の条件 呼び出し側にも条件があります。 Function URLs InvokeWithResponseStream API 今回は、Node.jsのマネージドランタイム(ver.20)とF