GPTが固執する「恒一」の謎｜斎木 稔貴

私は fountale というLLMを使った小説生成サービスを運営しています。 LLMの挙動の制御に関しては常々頭を悩ませているのですが、1つGPTに関してあまりにも不可解な挙動があります。 それは、GPTはキャラクターの名前をとにかく「恒一」にしようとする、というものです。 まあ恒一なんて普通の名前だし、なんとなく偏ってるだけでしょ……と思いますか？ そんな、ありきたりな話ではありません。 Claudeがファンタジー聖職者の女性に対してほぼ毎回「セレス」と名付けるのは理解できるものです。一般的な舞台での女性には「澪」や「りん」といった普通の名前をつけています。Grokでも「美咲」とか、普通です。 GPTは、キャラクターの半分以上に「恒一」という名前をつけようとします。同じ作品の中で、3人中2人のキャラクターが「恒一」と「恒一郎」だったりします。 さらに、GPTは女性キャラクターに対しても

[unagiga]

AIに恒一という名の研究者の脳が接続されていてその恒一が助けを求めているんだよ

[karatte]

この症状俺だけじゃなかったんだ！ 男性キャラ全員恒一にしてきたときは思わず笑っちゃったわ。しかも「全員恒一以外にして」って指示しても一人恒一だったからな。

[rna]

有権者諸君！これが外山恒一の恐ろし〜い陰謀だ！/ チャットタイトルの末尾に「恒一」が付くのはうちでもあったけど、他にもランダムな語句(外国語含む)が付くことあるんで、何らかのバグらしい。

[u_1roh]

ホントだったw https://chatgpt.com/share/6aa648a8-7398-83e8-9e5a-03d0f2890027

[Unite]

少数派の諸君！／"日本人男性の名前をランダムに10名生成して"で何度か試したけどうちの環境では5.5じゃないと再現できないな　パーソナライズとカスタム指示無しでもあかんかった

[horaix]

これは政府転覆の恐ろしい陰謀だろう。俺のチャッピーに聞いたら、恒一は特定の属性を持たない日本人男性の名前として使いやすいと回答してきた。そんな訳ないだろ。スクラップ＆スクラップ

[yuatast]

そもそもスレッドの名称にも恒一ってつけるよね、チャッピー。これ何?って聞いてみたら、そもそも恒一を認識してなくて答えてくれなかった。

[saikorohausu]

数日前、ChatGPTで形状記憶の折り畳み傘の商品比較をしたらそのタイトルが「形状記憶傘おすすめ恒一」と名付けられてて、なんじゃそらと思ってたところだ！！人名なんて全く関係ない内容なのに…／理由も聞いたが不明

[ejaculation]

全然関係ないチャットのタイトル・例「金融知識の相談 恒一」みたいについて、不気味だった。頻出してるのか。本文には影響なかった。

[AKIT]

https://x.com/toyamakoichi/status/2097797757708980380 外山さんが過学習させてる説あるな。私もビビる！

[estragon]

初めてChatGPTに創作させてみたが、主人公の女性と、友人の男性と父を登場人物に指定したら、主人公は美緒で友人は亮だった。もう一人男性を登場させようと思って指定した父の名前が　は書かれなかった。作風にもよる

[natu3kan]

チャッピーと恒一

[jatta]

？？？「有権者諸君！私が外山恒一である…」

[mag4n]

某活動家がみんな浮かんでて吹いた

[T-anal]

出力結果に奴らもビビる、外山恒一もビビる。

[usi4444]

ChatGPTに聞いたら自分では治せないんだって。

[star_123]

どのモデルの現象なんだろう？うちのsolはならなかった。おもしろい

[cu39]

無料プランで再現した https://chatgpt.com/share/6aa6c963-0b94-83ee-8047-255b6f6ce4bb

[behuckleberry02]

おもしろー

[dpdp]

謎が解けていなくて面白い

[Lamit]

子供の名前「恒一」が1位になるのも時間の問題

[shiro-coumarin]

この現象を「恒一の亡霊」って名付けるの、SF的な夢があって面白い。悪夢かもしれないけど。

[lamellar3404]

恒心教に恒一という登場人物は存在しません。とりあえず取り急ぎ。

[snare_micchan]

恒心教？

[hamigakiniku]

めっちゃおもろい

[kkobayashi]

うちのチャッピーはそんな事なくて残念なようなホッとしたような

[at_yasu]

今の時間だから再現できない…？何度かやったけど、再現しない… / 5.5 instantにしたら出始めた。ほー…？？？

[fallout1999]

外山恒一氏の演説の書き起こしと要約をやらせた奴がいっぱいいたのかな

[dltlt]

こうなると、もう「恒一」はフィクションに登場させられない名前だな

[moumaiko]

今度から画像加工してるときになぜか生成される人影のこと恒一って呼ぼう

[colonoe]

たしかにChatGPTだけおかしい　https://chatgpt.com/share/6aa6a109-f7d8-83e8-af8f-375eb4397a8c　https://share.gemini.google/XK7DccyjECg2　https://x.com/i/grok/share/ba1a040fab924452bfd3e82e4daebaa3

[Rikerike]

……恒心教の所為では？

[chintaro3]

恒一といえば外山恒一しか思い浮かばない訳だが

[e_denker]

自分で試してみたら再現した。面白い。AIは「ランダム」に弱いよね。ちゃんと生成プロセスを指示しないとすごく適当な乱数を作る。

[gamil]

外山すごすぎる

[Filone]

ここ最近で一番笑った。ありがとう。

[Caerleon0327]

外山恒一（←良かった、みんな忘れてなくて）

[ounzy]

SCPっぽい話だ

[avictors]

ひさいち。zeta（たぶんバックエンドはОSS版GPT）でも美咲と麗華がよく出るそう。90年代のテキストでよく出そうって感じはする。「GPT-3.5に250人を生成させたら 最頻出の名が John 113回、GPT-4miniは John 186回でした」だって。