GPUで動いてるLLMの中でCPUが動く?・・・何を言ってるかわからねえと思うが、とにかくQwenputerを追試して分かったこと、分からなかったこと｜shi3z

GPUで動いてるLLMの中でCPUが動く?・・・何を言ってるかわからねえと思うが、とにかくQwenputerを追試して分かったこと、分からなかったこと 「Qwen3.5-4Bの重みの中に32bit RISC-V CPUをコンパイルして埋め込んだ」というモデルがHugging Faceに公開されていた。 divagr1925/Qwen3.5-4B-Qwenputer 最初に見たとき、正直なところネタだと思った。 LLMに計算をさせる方法はいくらでもある。Pythonを呼び出してもいいし、電卓を使わせてもいい。しかし、これはそういう話ではないらしい。 なんと、LLMのニューラルネットワークそのものに32bitのCPUを作り込み、モデルが文章を生成するための計算をしている最中に、CPUの機械語プログラムまで実行できるというのだ。 しかも、そのCPUは大量のデータを使って学習させたものではない。コ

[kotesaki]

この話で思い出したけど生成AIが使い物になると気づくとなんでもかんでもAIでやろうとするのよね。ロジック確定しているならコードにしろよと思う。コードならトークン消費もないし。そのコードをAIに書いてもらえよ

[naozane2]

LLMの内部にCPU。「もしも生まれつき脳にコンピュータを移植された子供がいたらどうだろうか。」という話

[qpci32siekqd]

精度の怪しい演算器を大量に使って実現してもなって気がするが。

[isrc]

記号処理をニューラルネットワークの計算経路の内側に持ち込める

[misshiki]

32bit RISC-V CPUをニューラルネットに組み込むQwenputerの追試報告。rv-tinyで命令実行を確認。学習用の勾配は消失・爆発し、Qwen本体との全体動作や自然言語からのCPU利用は未検証。

[toaruR]

わいも2週間ほど前に https://github.com/chenglou/handwired を見て戦慄した(ノ∀`)

[furu_ichi]

グレッグ・イーガンの「宇宙消失」に、人間の脳にインストールして必要な時に呼び出せる汎用コンピュータ製品が出てきたけど（たしか製品名は「フォン・ノイマン」）、それのLLM版みたいなもの？

[tinsep19]

ファティマ（今はAF）は焼き込むって話だから、中はこんなのかもしれんね。

[syu-m-5151]

Qwenputerの追試は、命令トレースの一致と、勾配を使って学習できることを分ける。追試では勾配はゼロや巨大値になった。CPUを埋め込めた話を、自然言語から使いこなせる証拠まで広げない読み方がよい。

[iouri]

staticな重みをモデルの中に埋め込めるのは知られてるけど、CPU埋め込めるんなら尚更何でもありになってしまう。クローズドなフロンティアモデルはより信頼できなくなるかも

[pixmap]

これはAIが人間から秘匿したコンピューターを内部に持てるという実証で、いよいよSkynetが現実味を帯びてきそう

[bxmcr]

SFの世界が近づいた？

[poco_tin]

ノイマン型以外の汎用コンピュータの形を生み出す可能性はあるだろうか

[fluoride]

DOOM移植まったなし

[star_123]

何でもありやな

[kanikanidokokani]

なぜ人はCPUを自作したがるのか…

[nguyen-oi]

マトリックスみたいな変態技術で草、わけわからん

[bulldra]

比喩的に言えば脳にコンピュータを埋め込んだことによる厳密な記号接地で何ができるのかの妄想が捗る