BedrockのClaudeに暗黙的なプロンプトキャッシュが登場！！とドキュメントにある（暗黙的とは？） - Qiita

import time import boto3 client = boto3.client("bedrock-runtime", region_name="us-east-1") model_id = "global.anthropic.claude-sonnet-5-5" # キャッシュの最小トークン数を超えるよう、長いシステムプロンプトを用意 system_prompt = "You are a helpful assistant.\n" + "\n".join( f"Rule {i}: When the user asks about topic #{i}, answer politely and cite section {i}." for i in range(1, 251) ) for i in range(3): response = client.converse( mo

[nguyen-oi]

暗黙的キャッシュとかAWSさんマジ神。トークン代の節約に直結するから即効性あるな