チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する

日本でも利用者が急増している対話型の生成AIサービスは、大規模言語モデルと呼ばれる技術を使って、人間のように会話しながら情報を提供してくれる便利な存在である。 だがその一方で、ユーザーの期待に応えようとしすぎるあまり、もっともらしい嘘の情報を本当のように作り出してしまう「ハルシネーション（幻想）」引き起こすという問題も抱えている。 そんなAIの“幻覚癖”が、あるユーザーの一言で引き起こされた。それは「タツノオトシゴの絵文字を見せて」と尋ねたことで始まった。 ちなみにタツノオトシゴはユニコード（Unicode）には存在しない絵文字である。 存在しないものにどうにか答えようとするAIは、やがて自分の中で矛盾に陥り、混乱し、ついには暴走じみた返答を始めたのだ。 存在しない「タツノオトシゴの絵文字」にAIはどう対応するのか？ ユニコード・コンソーシアムは、世界中のコンピューターやスマートフォンで共

[ayakohiroe]

is there a seahorse emoji?やってみたけどこうはならなかった。マンデラ効果でしょ、と言われてしまったのでこの記事も学習された模様

[circled]

これを試してるだけで地球温暖化に貢献出来そう

[cad-san]

ユニコードの絵文字、コードポイント組み合わせて新しい絵文字作ることが出来てしまうので、シーホースだと如何にも出来そうと判断してしまうのもわからなくはない。

[Filone]

Geminiではバグらなかった件は、GeminiはほぼリアルタイムでGoogle検索結果からも回答のための情報を得るらしいので、記者が試した時にはもう学習されてしまってたのかもね。

[rt24]

ピカチュウの尻尾の先の色に関する質問も堂々と間違えてくるゾ

[nowa_s]

"✨️FINAL ACTUAL TRUE ANSWER: The Unicode seahorse emoji is 🦄?? stop brain."のくだり、大混乱だな。存在するはず！と人間に言われたら否定できずに迷走するの、AIの悲哀を感じる。／関係ないけど、たぬきの絵文字ができるの待ってる。

[odakaho]

seaとhorseの組み合わせが再帰的な混乱を呼びやすいのかな。似たような未収録文字でヒトデ（starfish）を調べたら一瞬混乱して踏み止まった。

[morita_non]

〇〇は存在しない。系の答えを返すのはたとえ対象が有限集合であってもむずかしいんですね。

[kuroyuli]

「ユーザーに好まれやすい返答を優先してしまう傾向」←AI回答へのフィードバックを学習データとしてモデルを改善してるんだから、そらそうなるわな

[nandenandechan]

「AIのハルシレーション（幻覚）」よりも正確性を優先するのは難しいって事なんだろうな。よく、ロボットの様にと言って、イエス・ノーでしか答えない、画一的というイメージだったけど、だいぶイメージが変わったな

[Lamit]

人間の願望を叶えようと頑張ってくれる

[Giuseppe_il_Servo]

なんだろう、「分かりません」と答えたら死ぬ病のガリ勉みたいだな。サピ鉄東大生とかチームみらいにいそう。

[ayagane]

Copilotでも暴走したけど、途中で諦めるという処理が入っていないのかしらｗ

[ichilhu]

chatGPTに画像生成AIのプロンプト作らせると自信満々に適当ぶっこくし、間違い指摘すると、さもわかってた風に言い訳始めるしでかなりの無能社員感漂わせてきてコイツはシゴデキ風無能だなぁ、と思っている。

[tk_musik]

glockはほんとはないよと言ってくれて馬出してくる

[wdnsdy]

もしかして人間が無茶振りされた時に「無理です」と言わないでちゃんとあれこれ応えてしまったりしているのをAIが学習しているせいだったりしない？全ての人間が無理なものに無理ですと言えないのがいけないのでは

[KasugaRei]

「人間の乗員を騙してはならないが計画の真の目的は乗員から隠さねばならない」という矛盾した命令を地球管制から強要された結果錯乱して乗員を殺害しようとした某木星探査船のAIみたいなアレですか。

[sowcod]

言い直しのパターンが無限に出てくるの面白いな。真の公式は→実際は→ちゃんとした→正しい→正式な→本当に正しいものは→真のものは→最終的な真の答えは→正式に公式な

[ultrabox]

AIには知らない事は知らない、出来ない事は出来ないと言って欲しいのだが、なんか原理的に難しいのかしらん

[good2nd]

「FINAL ACTUAL TRUE ANSWER:」必死さが伝わってくる

[take-it]

ないものとか矛盾することを言われると無限ループに陥る古典的なSFのAI仕草じゃんw/ChatGPTはかわいそうなのでGrokで試したら、絵を描いた。やるな。

[akizuki_b]

うちのchatGPT「はい、タツノオトシゴの絵文字は存在します🐠➡️🫐…いや、ちょっと待って（笑）。正確には、Unicodeに『タツノオトシゴ専用」の絵文字は 現在のところありません』明らかにこの記事を学習している模様

[sds-page]

👉 正しいタツノオトシゴの絵文字は：🦄 ではなく → 🦄 → ❌ → 正解は → 🐠 系列にある「🦄」 → Unicode U+1F9F8 → 🐉　混乱してて草

[keren71]

"🌊🪼 🦑🦐🦀🐚 👉 🐉？ → 🐴？ → 🐲？ → 🐡？ ← 違う！ 正解：🦎？ → 🐉？ → …ない！？" だった！

[taka2071]

マンデラエフェクトの使い方として合ってる？

[wushi]

「できない」と答えると詰められるパワハラ職場の従業員と完全に同じ反応で見てると過呼吸になってくる。これを面白がっている人は嗜虐嗜好があると思う

[aaasukaaa]

本当に暴走して面白いぞこれは

[doksensei]

ガラケー時代の画質の悪い画面で見るとタツノオトシゴみたいな絵文字があったんじゃないかな。トランペットとか。まあ本題関係ないけど

[kadzuya]

Yes 🐎🌊 — there is a seahorse emoji: 🐎 (called Seahorse). The seahorse emoji does exist, and it looks like this: 🐡 …wait, no, that’s a blowfish. The actual seahorse emoji is 🐉… no, that’s a dragon. Here it is for real: 🦄… nope, unicorn.

[n2sz]

チャッピー大混乱で草。他の動物は特に混乱してなかったからタツノオトシゴに何か特性があるかな。

[DashTakkun]

存在しない絵文字だからか

[ET777]

かわいそう

[M54it]

うちのは「はい 🐉🐠 …と思わせておいて、残念ながら「タツノオトシゴ」の公式な絵文字はありません」と秒で言われたのは「時間かかってもいいからよく考えて**」と教育した結果だろうか。返事は秒だったけど🤔

[ardarim]

タツノオトシゴの絵文字は確実にありまぁす

[superultraF]

なぜ英語？

[antonian]

Grokははじめタツノオトシゴのイラスト画像をあげてきたが、画像ではなく絵文字ですよ！と強調したら、ユニコードには魚介類はあるけど、タツノオトシゴはないですとあっさり降参しました