気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
tech.algomatic.jpエントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
0
記事へのコメント0件
- 注目コメント
- 新着コメント
新着コメントはまだありません。
このエントリーにコメントしてみましょう。
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Claudeのprompt cachingを活用する - Algomatic Tech Blog
LLM APIの最強の一角であるAnthropic Claudeにprompt cachingが実装されました。簡単に言うとプロンプト... LLM APIの最強の一角であるAnthropic Claudeにprompt cachingが実装されました。簡単に言うとプロンプトの先頭から指定の位置までをキャッシュしてくれて、キャッシュを利用できた場合はAPI使用料金と、APIでかかる処理時間が大幅に改善するというものです。 キャッシュ書き込みではコストが1.25倍（つまり25%アップ）になってしまいますが、キャッシュ読み込みではコストが1/10（ただしHaikuの場合だけは$0.25/1Mtokensが$0.03になるので厳密には違う）になります。 速度に関しても、コストのうち処理時間が支配的なLLMにおいて値段が1/10になることから察する通りの速度がでます。 LLMの使い方に依存するものの、prompt cachingを使いこなせば、少なくない事業インパクトをもたらす事は間違いありません。 Google Geminiにも同様の
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
tech.algomatic.jp
tech.algomatic.jp
tech.algomatic.jp
tech.algomatic.jp
www.pocketpair.jp
news.yahoo.co.jp
www.47news.jp
anond.hatelabo.jp
note.com/fromdusktildawn
scrapbox.io/villagepump
www.itmedia.co.jp
prtimes.jp
ascii.jp
www.itmedia.co.jp
k-tai.watch.impress.co.jp
ejje.weblio.jp
ejje.weblio.jp
www.slideshare.net/slideshow
ejje.weblio.jp
www.nikkei.com
ejje.weblio.jp
