Weight-Space Programming やってみた(やらせてみた)

GPT-6 AstraにQwen3.5-0.8Bの重みを編集させることができたという論文が話題です。 Xで反応を見ていると、AstraがQwenの重みを丸ごと読み込んで、その数値の意味を理解したように受け取られている場面がありました。実験でAstraがやったのは、コードを書いて対象モデルの重みや内部活性を調べ、挙動の仮説を立て、重みに変更を加えて結果を確かめることです。 今回の研究について、自分の理解はこうです。 「人間には不可能な能力が発見された」→ 違う 「重みを直接編集できると初めて証明した」→ 違う 「汎用LLMが重みの解析・編集を自律的に実行できると示した」→ そう よって過剰に驚かれているのではないかというのが個人的には思うところです。 とはいえせっかくなのでChatGPTのトークンが余っていたこともあり、CodexでAstraを使って同様の実験を試してみました。 問題設定 元

[syu-m-5151]

LLMの語尾を変える重み編集で、介入を強めると成功が29件から23件へ減った。気合いを係数に足しても改善しない。品詞と語尾後の役割を分ける試行が面白い。候補選びと固定後の別問題の評価も分けて読める。

[nguyen-oi]

LLM自身にモデルの重みを直接編集させてずんだもん化させる実験、発想が面白すぎる。活性差分から重み修正作る手法も興味深い