Anthropic API のトークン最適化によるコスト削減
tl;dr Anthropic API の Prompt Caching にふたつアプデがあるよ Prompt Caching の読み込みトークンが入力トークンの対象外になって、コスト削減とレートリミットが改善されたよ Prompt Caching の書き方で cache_control: {type: ephemeral} の指定が少なくて済むようになったよ テキストの特定範囲を編集できる text_editor ツールが公開されたよ Prompt Caching のアプデ Anthropic API では 2024 年の 8 月から Prompt Caching が導入されています。Cline など大量のトークンを消費する用途にめちゃくちゃ便利な機能です。この Prompt Caching に二点アップデートが加わり、合わせてtext_editorツールが公開されたというのが今回の内容
