
エントリーの編集

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Amazon Bedrockのプロンプトキャッシング機能を検証してみた!実装のコツと落とし穴 - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Amazon Bedrockのプロンプトキャッシング機能を検証してみた!実装のコツと落とし穴 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure y... Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? Bedrockのプロンプトキャッシュのドキュメント Anthropicのプロンプトキャッシュのドキュメント はじめに Amazon Bedrockで一般提供が始まったプロンプトキャッシング機能を実際に検証してみました。 公式ドキュメントには書かれていない挙動や、実装する際のコツをシェアします。 プロンプトキャッシングって何? 簡単に言うと、よく使うプロンプトの一部をキャッシュしておいて、次回以降の処理を省略する機能です。公式発表ではコスト最大90%削減、レイテンシー最大85%改善とかなり派手なことを言ってます。実際どうなのか検証してみま