GPTが固執する「恒一」の謎｜斎木 稔貴

私は fountale というLLMを使った小説生成サービスを運営しています。 LLMの挙動の制御に関しては常々頭を悩ませているのですが、1つGPTに関してあまりにも不可解な挙動があります。 それは、GPTはキャラクターの名前をとにかく「恒一」にしようとする、というものです。 まあ恒一なんて普通の名前だし、なんとなく偏ってるだけでしょ……と思いますか？ そんな、ありきたりな話ではありません。 Claudeがファンタジー聖職者の女性に対してほぼ毎回「セレス」と名付けるのは理解できるものです。一般的な舞台での女性には「澪」や「りん」といった普通の名前をつけています。Grokでも「美咲」とか、普通です。 GPTは、キャラクターの半分以上に「恒一」という名前をつけようとします。同じ作品の中で、3人中2人のキャラクターが「恒一」と「恒一郎」だったりします。 さらに、GPTは女性キャラクターに対しても

[unagiga]

AIに恒一という名の研究者の脳が接続されていてその恒一が助けを求めているんだよ

[karatte]

この症状俺だけじゃなかったんだ！ 男性キャラ全員恒一にしてきたときは思わず笑っちゃったわ。しかも「全員恒一以外にして」って指示しても一人恒一だったからな。

[rna]

有権者諸君！これが外山恒一の恐ろし〜い陰謀だ！/ チャットタイトルの末尾に「恒一」が付くのはうちでもあったけど、他にもランダムな語句(外国語含む)が付くことあるんで、何らかのバグらしい。

[u_1roh]

ホントだったw https://chatgpt.com/share/6aa648a8-7398-83e8-9e5a-03d0f2890027

[Unite]

少数派の諸君！／"日本人男性の名前をランダムに10名生成して"で何度か試したけどうちの環境では5.5じゃないと再現できないな　パーソナライズとカスタム指示無しでもあかんかった

[horaix]

これは政府転覆の恐ろしい陰謀だろう。俺のチャッピーに聞いたら、恒一は特定の属性を持たない日本人男性の名前として使いやすいと回答してきた。そんな訳ないだろ。スクラップ＆スクラップ

[yuatast]

そもそもスレッドの名称にも恒一ってつけるよね、チャッピー。これ何?って聞いてみたら、そもそも恒一を認識してなくて答えてくれなかった。

[saikorohausu]

数日前、ChatGPTで形状記憶の折り畳み傘の商品比較をしたらそのタイトルが「形状記憶傘おすすめ恒一」と名付けられてて、なんじゃそらと思ってたところだ！！人名なんて全く関係ない内容なのに…／理由も聞いたが不明

[ejaculation]

全然関係ないチャットのタイトル・例「金融知識の相談 恒一」みたいについて、不気味だった。頻出してるのか。本文には影響なかった。

[AKIT]

https://x.com/toyamakoichi/status/2097797757708980380 外山さんが過学習させてる説あるな。私もビビる！

[younari]

モデルの癖みたいだね

[rocoroco3310]

ほんとだー！チャッピーも困惑して自分で笑っちゃってる。　https://chatgpt.com/share/6aaf6b36-2684-83ee-970a-ec74185fde23

[filinion]

…いやしかし、生成AIの奇妙な挙動の理由を生成AIに聞いて納得してるの大丈夫なのか…。Claudeが他のAIの（あるいは自身のも）内部の状態を知ってるとは思えないんだが。

[ivory105]

そしてこういう恒一記事を学習して強度が増すのか。特定tokenて具体的になんなんだろう

[nanako-robi]

不思議！

[yu_uke]

子供の名前をchat-GPTに依頼することで、日本国内の子供の名前が「恒一」が流行る未来を想像した。

[rlight]

"Claudeにこの問題について解説を依頼したところ、「特定トークン列への病的な収束（pathological token bias）」であり、過学習の一形態という説明"

[matorico]

確かにやってみたら恒一オンリーで出してきた。「ランダムじゃないじゃん」とつっこんだらさらに恒一を除外できない回答を何度かしてきて、しまいには自ら「もう恒一をNGワードにします」と縛っていた。何なんだ

[urtz]

こういち？つねいち？一発変換できないので割とレア？一体何を学習したんだ？

[estragon]

初めてChatGPTに創作させてみたが、主人公の女性と、友人の男性と父を登場人物に指定したら、主人公は美緒で友人は亮だった。もう一人男性を登場させようと思って指定した父の名前が　は書かれなかった

[natu3kan]

チャッピーと恒一

[jatta]

？？？「有権者諸君！私が外山恒一である…」

[mag4n]

某活動家がみんな浮かんでて吹いた

[T-anal]

出力結果に奴らもビビる、外山恒一もビビる。

[usi4444]

ChatGPTに聞いたら自分では治せないんだって。

[star_123]

どのモデルの現象なんだろう？うちのsolはならなかった。おもしろい

[cu39]

無料プランで再現した https://chatgpt.com/share/6aa6c963-0b94-83ee-8047-255b6f6ce4bb

[behuckleberry02]

おもしろー

[dpdp]

謎が解けていなくて面白い

[Lamit]

子供の名前「恒一」が1位になるのも時間の問題

[shiro-coumarin]

この現象を「恒一の亡霊」って名付けるの、SF的な夢があって面白い。悪夢かもしれないけど。

[lamellar3404]

恒心教に恒一という登場人物は存在しません。とりとり。

[snare_micchan]

恒心教？

[hamigakiniku]

めっちゃおもろい

[kkobayashi]

うちのチャッピーはそんな事なくて残念なようなホッとしたような

[at_yasu]

今の時間だから再現できない…？何度かやったけど、再現しない… / 5.5 instantにしたら出始めた。ほー…？？？

[fallout1999]

外山恒一氏の演説の書き起こしと要約をやらせた奴がいっぱいいたのかな

[dltlt]

こうなると、もう「恒一」はフィクションに登場させられない名前だな

[moumaiko]

今度から画像加工してるときになぜか生成される人影のこと恒一って呼ぼう

[colonoe]

たしかにChatGPTだけおかしい　https://chatgpt.com/share/6aa6a109-f7d8-83e8-af8f-375eb4397a8c　https://share.gemini.google/XK7DccyjECg2　https://x.com/i/grok/share/ba1a040fab924452bfd3e82e4daebaa3