https://b.hatena.ne.jp/entry/s/note.com/shi3zblog/n/nd5fc5341b342 DeepSeek v4.1 Flashを動かしたくてFP4に対応していないA100を、33tok/sから673 tok/sまで持っていって気がつくと公式APIより速くなっていた話 あらすじ結論から言うと、この24時間で僕の手元で起きたことは、僕... https://b.hatena.ne.jp/misshiki/20260914#bookmark-4792914258138013506 FP4非対応A100でDeepSeek v4.1 Flashを高速化。33tok/sから改善し、PCIe転送や2000回/tokenのCUDA起動を特定。記事冒頭では並列1000tok/s、4GPUで1467tok/sも達成。 2026-09-14T06:33:10Z 人工知能 自然言語処理 https://b.hatena.ne.jp/tasukuchan/20260914#bookmark-4792914258138013506 2026-09-14T04:30:59Z https://b.hatena.ne.jp/tashiromachi001/20260914#bookmark-4792914258138013506 2026-09-13T23:53:15Z https://b.hatena.ne.jp/kawasin73/20260914#bookmark-4792918721684920578 2026-09-13T21:11:52Z https://b.hatena.ne.jp/ene0kcal/20260913#bookmark-4792914258138013506 2026-09-13T12:31:04Z あとで読む AI LLM DeepSeek https://b.hatena.ne.jp/ys0000/20260913#bookmark-4792914258138013506 512GBが自宅にあるのが羨ましい。そして久しぶりに驚き屋ではなくエンジニアリングしてる記事だ。こういうのが読みたい訳だよ。 2026-09-13T05:23:56Z https://b.hatena.ne.jp/kyahi227/20260913#bookmark-4792914258138013506 何やってんだこいつ。Ninferは? 二次方程式の解法を再発見したインドの少年か? A100の機能制限版CMP 170HXが出回って暴騰してるのにそれ関連の情報を調べさせないのか? 2026-09-13T02:55:20Z https://b.hatena.ne.jp/toaruR/20260913#bookmark-4792914258138013506 活き活きしてる＼(^o^)／中古のA100を買い漁る、まで行って欲しい 2026-09-13T02:05:21Z https://b.hatena.ne.jp/yuuki5555/20260913#bookmark-4792914258138013506 2026-09-13T00:29:12Z https://b.hatena.ne.jp/pcmaster/20260913#bookmark-4792914258138013506 2026-09-12T22:03:41Z https://b.hatena.ne.jp/sterope/20260913#bookmark-4792914258138013506 2026-09-12T16:31:52Z 開発 gpu AI https://b.hatena.ne.jp/pastatch/20260913#bookmark-4792914258138013506 2026-09-12T16:00:11Z https://b.hatena.ne.jp/ynhl/20260913#bookmark-4792914258138013506 2026-09-12T15:48:08Z https://b.hatena.ne.jp/akinonika/20260913#bookmark-4792914258138013506 2026-09-12T15:19:30Z https://b.hatena.ne.jp/zarazzz/20260913#bookmark-4792914258138013506 2026-09-12T15:02:22Z https://b.hatena.ne.jp/Marukosu/20260912#bookmark-4792918721684920578 2026-09-12T14:47:09Z LLM 学び https://b.hatena.ne.jp/moritata/20260912#bookmark-4792914258138013506 2026-09-12T14:44:57Z flash api ai gpu LLM https://b.hatena.ne.jp/snow8-yuki/20260912#bookmark-4792914258138013506 2026-09-12T14:44:34Z https://b.hatena.ne.jp/tanaboo/20260912#bookmark-4792914258138013506 2026-09-12T14:19:38Z あとで読む https://b.hatena.ne.jp/samasan-tabasan/20260912#bookmark-4792914258138013506 読みごたえがあるなぁw 2026-09-12T13:53:13Z https://b.hatena.ne.jp/ugo_uozumi/20260912#bookmark-4792914258138013506 2026-09-12T13:32:02Z https://b.hatena.ne.jp/haniwa5391/20260912#bookmark-4792914258138013506 2026-09-12T13:24:52Z https://b.hatena.ne.jp/hirogocco/20260912#bookmark-4792914258138013506 2026-09-12T13:15:05Z https://b.hatena.ne.jp/vcc/20260912#bookmark-4792914258138013506 2026-09-12T13:12:53Z LLM 生成AI クラウド https://b.hatena.ne.jp/Watson/20260912#bookmark-4792914258138013506 2026-09-12T13:09:43Z https://b.hatena.ne.jp/oguri0220/20260912#bookmark-4792914258138013506 2026-09-12T12:55:47Z https://b.hatena.ne.jp/alcohorhythm/20260912#bookmark-4792914258138013506 2026-09-12T12:54:13Z ai LLM 開発 https://b.hatena.ne.jp/eggman/20260912#bookmark-4792914258138013506 2026-09-12T12:29:15Z https://b.hatena.ne.jp/mcddx30/20260912#bookmark-4792918721684920578 https://x.com/shi3z/status/2098530231678370266 2026-09-12T12:09:15Z https://b.hatena.ne.jp/memorial4/20260912#bookmark-4792914258138013506 2026-09-12T12:03:49Z https://b.hatena.ne.jp/jonysand/20260912#bookmark-4792914258138013506 2026-09-12T11:51:55Z https://b.hatena.ne.jp/Abba/20260912#bookmark-4792914258138013506 2026-09-12T11:48:04Z https://b.hatena.ne.jp/Kesin/20260912#bookmark-4792922115247646754 2026-09-12T11:17:33Z LLM https://b.hatena.ne.jp/miyakawa_taku/20260912#bookmark-4792914258138013506 2026-09-12T11:10:28Z https://b.hatena.ne.jp/drk7jp/20260912#bookmark-4792914258138013506 2026-09-12T11:05:32Z https://b.hatena.ne.jp/hedachi/20260912#bookmark-4792914258138013506 2026-09-12T11:03:45Z https://b.hatena.ne.jp/door-s-dev/20260912#bookmark-4792914258138013506 "なにがシンギュラリティだ"おやぁ？ 2026-09-12T10:54:57Z https://b.hatena.ne.jp/hayeta/20260912#bookmark-4792914258138013506 「ここで大切なのは直感である。 「そんなわけあるか」と思えるかどうか。 AIの言う寝言を鵜呑みにしていたら、この先には進めない。」 2026-09-12T10:48:15Z https://b.hatena.ne.jp/cmieji/20260912#bookmark-4792914258138013506 最適化 2026-09-12T10:22:25Z AI 開発 LLM https://b.hatena.ne.jp/shino_azm/20260912#bookmark-4792914258138013506 2026-09-12T10:17:27Z あとで読む https://b.hatena.ne.jp/anek-box/20260912#bookmark-4792918721684920578 2026-09-12T10:13:38Z https://b.hatena.ne.jp/fukudamasa09/20260912#bookmark-4792914258138013506 2026-09-12T10:09:43Z https://b.hatena.ne.jp/oosin/20260912#bookmark-4792914258138013506 自分がコーディングに使ってる経験だと、ライブラリなければこういう実装でどう？と提案してくる（結果がどうあれ）ので別世界の人かな？と思った。 真実は不明だがAIを調教してる風なのは相当脚色されてる気がする。 2026-09-12T10:04:00Z https://b.hatena.ne.jp/mapk0y/20260912#bookmark-4792914258138013506 2026-09-12T09:59:29Z AI https://b.hatena.ne.jp/napsucks/20260912#bookmark-4792914258138013506 AIの表層的な答えを受け取らず、蹴りを入れるのは大事ね。ESP32の最適化でもこの辺りの違いが出てくる。なお、codex/GPT5.6 solは32bit専用RTC slow memoryに16ビットを2つパックするなど最適化提案を結構やってくれる。 2026-09-12T09:51:44Z https://b.hatena.ne.jp/tachisanhtn/20260912#bookmark-4792914258138013506 2026-09-12T09:47:55Z あとで読む https://b.hatena.ne.jp/strawberryhunter/20260912#bookmark-4792914258138013506 この人をこんなにカッコいいと思ったのは初めてだ。llama.cppとかはOSSだけど、open weight以外のこういう実行環境も各社は基本的に公開していない。きっと、こういう職人芸の塊だと思う。 2026-09-12T09:27:28Z 未分類 https://b.hatena.ne.jp/stealthinu/20260912#bookmark-4792914258138013506 たしかにFP4だと256パターンだし古いGPUでも最適化できるか。意味ないと思ってたが手持ちハードに合わせた専用推論機にカスタマイズするのよいな。 2026-09-12T09:24:10Z llm deeplearning AI https://b.hatena.ne.jp/bwsshk/20260912#bookmark-4792914258138013506 2026-09-12T09:22:35Z https://b.hatena.ne.jp/t_nkjm/20260912#bookmark-4792914258138013506 2026-09-12T09:17:45Z あとで読む https://b.hatena.ne.jp/kusaret/20260912#bookmark-4792914258138013506 2026-09-12T09:10:15Z あとで読む https://b.hatena.ne.jp/bluescreen/20260912#bookmark-4792914258138013506 2026-09-12T09:06:54Z GPU LLM https://b.hatena.ne.jp/zinziroge/20260912#bookmark-4792914258138013506 2026-09-12T08:54:57Z https://b.hatena.ne.jp/kotesaki/20260912#bookmark-4792914258138013506 普段、与太オヤジだと思ってるshi3zさんが覚醒するとこういう動きするんだ〜。さすがーとオモタヨ。フロンティアとしてのクラウドモデル優位は当面続くだろうけど「AI所有できる」Local LLMは夢があるよねー。 2026-09-12T08:54:51Z https://b.hatena.ne.jp/masayoshinym/20260912#bookmark-4792914258138013506 2026-09-12T08:48:26Z LLM https://b.hatena.ne.jp/morioka/20260912#bookmark-4792914258138013506 2026-09-12T08:44:27Z あとで読む https://b.hatena.ne.jp/Tiantian/20260912#bookmark-4792914258138013506 2026-09-12T08:43:49Z https://b.hatena.ne.jp/natu3kan/20260912#bookmark-4792914258138013506 ハードが旧世代になって非対応の部分をソフトで対応させたら動くって、ロマンあるし性能も良かったら満足感が高いよなあ。 2026-09-12T08:35:56Z AI development https://b.hatena.ne.jp/mikage014/20260912#bookmark-4792914258138013506 2026-09-12T08:29:27Z AI LLM https://b.hatena.ne.jp/fnm/20260912#bookmark-4792914258138013506 実際、Claude Codeは早々に「これが限界です」とか舐めたことを抜かす。ついこないだ生まれたようなガキが。知ったふうな口を聞くな。→つよい 2026-09-12T08:17:09Z https://b.hatena.ne.jp/hhungry/20260912#bookmark-4792914258138013506 一口にClaude CodeゆーてもオーパスかFableかで話が変わってくる。 2026-09-12T08:07:39Z AI https://b.hatena.ne.jp/kurage_lizard/20260912#bookmark-4792914258138013506 おれもClaude Codeにガキは黙ってろ！って言えるくらい理解したい。むしろ、えーそんなこともやってくれたのー？ありがとー！ってなってる。 2026-09-12T08:00:44Z https://b.hatena.ne.jp/moke222/20260912#bookmark-4792914258138013506 驚き屋さんがんばれ 2026-09-12T07:25:36Z https://b.hatena.ne.jp/puruhime/20260912#bookmark-4792914258138013506 この人の環境を用意できないので本文を読むのは早々に諦めた 2026-09-12T07:21:25Z https://b.hatena.ne.jp/agano/20260912#bookmark-4792914258138013506 2026-09-12T07:11:34Z https://b.hatena.ne.jp/bxmcr/20260912#bookmark-4792914258138013506 2026-09-12T07:03:40Z https://b.hatena.ne.jp/tadyjp/20260912#bookmark-4792914258138013506 これがISUCONか。。それにこのAIには出来ない書き味、いいね 2026-09-12T07:02:08Z https://b.hatena.ne.jp/taruhachi/20260912#bookmark-4792914258138013506 VRAMはさほど使わない(290GBくらい)。。。。。。。。。。。 2026-09-12T07:01:09Z https://b.hatena.ne.jp/marices199/20260912#bookmark-4792914258138013506 2026-09-12T06:46:19Z https://b.hatena.ne.jp/teslur/20260912#bookmark-4792914258138013506 これがAI時代を生き残れるタイプのSWEか… 2026-09-12T06:45:56Z https://b.hatena.ne.jp/mopx/20260912#bookmark-4792914258138013506 スクラップアンドビルドはAIの報酬にないから、作っといて、いやーなんか違うんだよなーとは言わなそう。 2026-09-12T06:45:23Z https://b.hatena.ne.jp/kazu111/20260912#bookmark-4792914258138013506 ①『クロードAIの脳みそ（ビグザム）』を②AI蒸留でパクリ256個の分業部屋で動かす『中華ディープシーク（中華ガンダム）』に、③論文と役割分担を活用した職人芸『個人AI（民間超性能ザク·ニュータイプ対応機）』が勝 2026-09-12T06:44:08Z https://b.hatena.ne.jp/yasuhiro1212/20260912#bookmark-4792914258138013506 2026-09-12T06:42:45Z あとで読む https://b.hatena.ne.jp/moonblogger/20260912#bookmark-4792914258138013506 2026-09-12T06:41:04Z AI 開発 ローカルLLM https://b.hatena.ne.jp/stanaka/20260912#bookmark-4792914258138013506 2026-09-12T06:39:17Z https://b.hatena.ne.jp/urtz/20260912#bookmark-4792914258138013506 2026-09-12T06:38:52Z あとで読む https://b.hatena.ne.jp/daruism/20260912#bookmark-4792914258138013506 “Claude Codeのコーディングが雑なせいだ。 あいつらは、「バグらない/バグりにくいコード」は量産できるようになったが、「効率的なコード」を量産できるようにまでは進化してない。なにがシンギュラリティだ。”強い 2026-09-12T06:30:06Z https://b.hatena.ne.jp/MuffinBobbin/20260912#bookmark-4792922115247646754 “継之助には、なんだかんだで4000万円くらいかかっている。” 今はどうなのか知らんが、少し前なら家が建つ金額だな。 2026-09-12T06:17:11Z https://b.hatena.ne.jp/t1mvverr/20260912#bookmark-4792914258138013506 2026-09-12T06:12:43Z https://b.hatena.ne.jp/hamatu/20260912#bookmark-4792914258138013506 2026-09-12T05:56:57Z https://b.hatena.ne.jp/unfini/20260912#bookmark-4792914258138013506 2026-09-12T05:48:07Z AI GPU LLM https://b.hatena.ne.jp/rgfx/20260912#bookmark-4792914258138013506 ぐえーかっこいいいいいい(滋味がある)(ありがとうございます)／でもこの手のチューニング、向こうで北京大や精華大を出てるようなキレッキレのがやってないわけがないと思うんだけどなあ 2026-09-12T05:47:38Z https://b.hatena.ne.jp/osakana110/20260912#bookmark-4792914258138013506 2026-09-12T05:47:15Z https://b.hatena.ne.jp/zgmf-x20a/20260912#bookmark-4792914258138013506 記録更新中… 2026-09-12T05:37:54Z https://b.hatena.ne.jp/ssfu/20260912#bookmark-4792914258138013506 ちょっと何言ってるかわかんない。 2026-09-12T05:29:39Z https://b.hatena.ne.jp/stang499/20260912#bookmark-4792914258138013506 2026-09-12T05:27:29Z https://b.hatena.ne.jp/ichise/20260912#bookmark-4792914258138013506 2026-09-12T05:27:25Z https://b.hatena.ne.jp/snowcrush/20260912#bookmark-4792914258138013506 2026-09-12T05:22:55Z https://b.hatena.ne.jp/akiu-ksg/20260912#bookmark-4792914258138013506 2026-09-12T05:19:54Z https://b.hatena.ne.jp/Cetus/20260912#bookmark-4792914258138013506 2026-09-12T05:17:49Z https://b.hatena.ne.jp/fashi/20260912#bookmark-4792914258138013506 「4bit×4bitの積なんて256通りしかない」「GPUに送るくらいならCPUで計算した方が速い」「買った方が安くない?」 2026-09-12T05:06:14Z ai https://b.hatena.ne.jp/pukuman/20260912#bookmark-4792922115247646754 2026-09-12T04:57:23Z AI https://b.hatena.ne.jp/kazari/20260912#bookmark-4792914258138013506 2026-09-12T04:46:05Z https://b.hatena.ne.jp/taka_pop/20260912#bookmark-4792914258138013506 2026-09-12T04:25:46Z https://b.hatena.ne.jp/NEXTAltair/20260912#bookmark-4792914258138013506 2026-09-12T04:23:25Z AI https://b.hatena.ne.jp/naka_dekoboko/20260912#bookmark-4792914258138013506 v4.1 Flash、逃がせる設計にしたうえで性能あげてくるし、たんに蒸留屋とかじゃないんだよなもう完全に先端にいる。 2026-09-12T04:22:01Z https://b.hatena.ne.jp/mojimojikun/20260912#bookmark-4792914258138013506 ( ･∀･)つ〃∩ ﾍｪｰﾍｪｰﾍｪｰ ｵﾓｼﾛｰｲ 結局『計測して、遅い場所を見つけて、その前提自体を壊す。結局これの繰り返しだった。つまりコンピュータ・サイエンスの基本中の基本だ』になってて頷いている 2026-09-12T04:21:08Z https://b.hatena.ne.jp/hush_in/20260912#bookmark-4792914258138013506 2026-09-12T04:21:03Z ai LLM https://b.hatena.ne.jp/agricola/20260912#bookmark-4792914258138013506 NVLinkブリッジで２枚ずつペアにするとどうなるかを知りたいところ。 2026-09-12T04:17:45Z https://b.hatena.ne.jp/shaokuz/20260912#bookmark-4792914258138013506 2026-09-12T04:16:11Z