LLM APIの最強の一角であるAnthropic Claudeにprompt cachingが実装されました。簡単に言うとプロンプトの先頭から指定の位置までをキャッシュしてくれて、キャッシュを利用できた場合はAPI使用料金と、APIでかかる処理時間が大幅に改善するというものです。 キャッシュ書き込みではコストが1.25倍(つまり25%アップ)になってしまいますが、キャッシュ読み込みではコストが1/10(ただしHaikuの場合だけは$0.25/1Mtokensが$0.03になるので厳密には違う)になります。 速度に関しても、コストのうち処理時間が支配的なLLMにおいて値段が1/10になることから察する通りの速度がでます。 LLMの使い方に依存するものの、prompt cachingを使いこなせば、少なくない事業インパクトをもたらす事は間違いありません。 Google Geminiにも同様の
始めに neovim では treesitter(nvim-treesitter) 機能が組込まれており、それを用いてシンタックスハイライトができますがトラブルが多いです。 nvim-treesitter を使っているときのトラブルとその対処方法についてまとめておきます。 不定期更新です。 nvim-treesitter のクエリエラーについて neovim や nvim-treesitter をアップデートしたときにクエリのエラーが発生することはないでしょうか。 これは基本的に treesitter のパーサーが古くクエリと不整合を起こしたときにエラーが出ます。 以下のスクリプトを実行して現在使用しているパーサーのバージョンを確認することができます。 local utils = require("nvim-treesitter.utils") local configs = requir
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く