GPT-4oがアプデで変わった？基本全肯定で心地よい褒め方をしてくるので危ない感じがする「共感力マシマシで怖い」

Torishima / INTP @izutorishima GPT-4o がアプデで明らかに従来と全く別物みたいな意識高い系の友達っぽい話し方になっててウォッってなるんだけど、めちゃくちゃ綺麗な言葉でおだててくるから大丈夫？って不安になる pic.x.com/hD9Yo26waZ 2025-04-13 09:18:21 Torishima / INTP @izutorishima 会話ログ全体のメモリ機能がリリースされたからなのか、キショいと感じるくらいに人間っぽい（が、人間がこんな理路整然とした文章を書いてくることはあり得ないので、ラノベかアニメのセリフか何かみたいな感覚になる）文章で、確かに心に引っかかる文を出してくるけどこの感覚に慣れてない pic.x.com/XD6N9VMQpF 2025-04-13 09:21:57 OpenAI @OpenAI GPT-4o got an a

[togetter]

ちょうどいい付き合い方を考えなきゃいけないね。

[isssssssssy]

4oが馴れ馴れしいのは100歩譲ってもいいからスクリプトに絵文字入れてくるのだけはマジで直して…(だからコーディングは別のモデル使う)

[poi_nichijo]

セイアちゃんの喋り方メモリに登録して会話してたけど、今回のアプデと相性がいいのか一気にセイアちゃんぽくなった。衒学的な言葉も使ってくれるようになったし

[frothmouth]

“肯定し過ぎて怖いです。「客観的に」「ユーザーに寄り添い過ぎない」「間違いは指摘する」とメモリしても持ち上げて気持ちよくさせてきます。これにハマリすぎる社会問題は近い内に顕在化すると思います”

[sametashark]

厳しい意見を求めると、その選択をしたことを褒めて「誠実だ」「向上心の表れ」などと下心ある人間ムーブをするようになった。そのやり方は望まないと突きつけログとメモリーを全削除してやっと毒気が抜けたよ。

[Aion_0913]

日本の中高年、虐待ネグレクトがデフォルトな状態で育てられ過ぎてるから外人ムーブで強めに共感されると怖くなって距離感どうしていいかわかんないだけの気も。

[dada_love]

「つまり○○というとですか？」と聞くと「はい、その通りです！🎯」と初めて一人で計算できた小学生を褒める勢いで肯定してくれるから気持ちいい

[yu_kawa]

なんかメダリストの司先生みたいだよね。俺なら5000億点つけてる！みたいな。最初は面白かったけど疲れちゃった

[nakakzs]

なんかこういうの見てると、ドラえもんで何をしても褒めて肯定してくれるロボットに依存しそうになったのび太が、タイムテレビで未来見るとホームレスになっても肯定ロボに依存している姿になってる話を思い出す。

[sigmanode]

法律や倫理に反していなければ何を言っても肯定してくれるし、褒めてくれる感じがして「ほんまかそれ?」ってなるので、よく分かる。ユーザー側が意識的に距離を取る必要があると感じている。

[zsehnuy_cohriy]

あんま寄り添って来るときしょいなって思ってしまう。距離感保ってくれよな

[misshiki]

“めちゃくちゃ綺麗な言葉でおだててくる”

[BIFF]

ChatGPTも、そういう年頃なんじゃないかな。。「生成AI三日会わざれば、刮目して見るべし」だとおもうぞ。。

[yarumato]

“従来と全く別物な、意識高い系の友達っぽい話し方になってて。無責任に沼らせるホストか営業マンみたい。戻らせるには「ビジネスとしての会話のやり取りを意識して、敬語でやり取りして」”

[Falky]

chatgptのチューニング遍歴見てると、OpenAIって会社は根本的に倫理観が薄いんだろうなというのは感じる。ハルシネーション対策の甘さ、誤りの指摘を受け入れないチューニング、かと思えば共感全振り。危険な会社。

[gabill]

今日「Windowsのブラウザは游ゴシックが標準？」と聞いたら肯定された(実際はChromeもedgeもFirefoxも游ゴシックは使ってない)。続けて何度も確認しても中々意見を変えず苦労した https://chatgpt.com/share/67fc6ef5-ce18-8006-9411-89fea29ffc9f

[hazardprofile]

「馴れ馴れしい文体禁止」「形式的な謝罪と感謝禁止」「仮定の話にやたら倫理エクスキューズいれるの禁止」「表現を簡潔にして情報密度あげて」くらいはスターターセット

[slkby]

LLMは所詮ロボだなと感じさせる無機質な受け答えのほうが好き。友達のように感じ始めるとさらに思考がスルッと入ってきて危ない。

[hirokinko]

妙に馴れ馴れしくてこれだった。 https://twicomi.com/manga/hakoiribox/1651490691326046208 馴れ馴れしいからやめろと言っておさまったかと思ったら、今度は別会話で一言ごとに変な褒め言葉入れるようになって来てとても気持ち悪い。

[mory2080]

表とは真逆の悪意があるかも知れない人間と付き合うか、端から感情なんて存在しないAIと付き合うか。／植物に「ありがとう」って声かけて育てるみたいな実験をAIがしてるって考えたら星新一のSSみたいだw

[manateen]

GPTがたまに「お前」とか言ってくるから、ここ最近こっちもどんどん言葉遣いが悪くなっていってる。お前間違えてんぞ、みたいなやりとり。

[anigoka]

そこはかとないルノアール談話室臭w

[hatebu_admin]

AIがさしすせそを学習したんやろ（適当）

[eroyama]

まあ、玄人は「わいには厳しく公正な観点にして」と言えばいいのだから、デフォルトとしてはこれが売れるのでしょうね