絶望に効くクスリ / Claudeを使い果たしたからローカルDeepSeek v4.1 FlashでClaude Codeを使うことにした話｜shi3z

寝ても覚めてもAIに触っていた人間が突然AIにさわれなくなるとパニックになる。とりあえずChatGPTにパッチを書いてもらうことでなんとか開発を継続するが、そこではたと気がついた。 ここは敢えてピンチはチャンスではないか。 drikinに煽られ、ムキになってA100で本来動かないはずのDeepSeek v4.1を動かすコードを書いたら、けっこうフォークされたりプルリクをもらったりしていた。 しかし、実際にこの移植が実用的に使えるものなのかどうか。また、再びクラウド上のAIがナーフされたり使えなくなったりしたらどうするか。それを試すための絶好の機械ではないか。 というわけで、安易に金を払って解決するのはやめて、敢えてイバラの道を行くことにした。つまり、DeepSeek v4.1 Flashをただ動かすのではなく、実用的に使うのである。そのためにはやらなきゃならないテストとかが山ほどある。 す

[mojimojikun]

すごいなぁ。

[nguyen-oi]

Claude制限の絶望からローカル環境構築と最適化沼に落ちていく狂気が相変わらず最高すぎる

[misshiki]

Claude Codeの上限到達を機に、ローカルDeepSeek v4.1 Flashをバックエンド化。prefix cacheやblock replayを実装し、prefill 400tok/s超、90万トークンまで高速化。最終的に本家並みの体感速度へ。

[samasan-tabasan]

読みごたえがあるなぁ part2w