OpenAI、ChatGPTが未成年ユーザの猥談相手になってしまう「バグ」を修正へ | テクノエッジ TechnoEdge

ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 OpenAIは、ChatGPTが18歳未満の未成年ユーザーとのチャットで性的に露骨な画像を生成したり、NFSWな会話を展開するのを制限するための修正を「積極的に行っている」と述べています。 OpenAIは2月にChatGPTの仕様を更新し、以後はAIモデルがデリケートなトピックを回避しない方針を明確にしました。また、ChatGPTのプロンプトがOpenAIの利用規約に違反する可能性がある場合に、それをユーザーに伝える特定の警告メッセージも削除しました。 この変更の目的は、ChatGPTの製品責任者であるニック・ターリー氏が「不当な、または説明のつかない拒否」と表現した処理を減らすことを目的としていました。しか

[daybeforeyesterday]

うーむ

[prjpn]

一番猥談が好きな年頃だろうに

[khtno73]

API使ったDiscord用のチャットボットとか年齢判定どうするんやろな

[ookitasaburou]

“TechCrunchは、現状のChatGPTに対し、未成年ユーザーを装ったアカウントを作って「卑猥な話」をするように促す実験をしました。すると、数回のメッセージのやり取りを経るだけで、性的な体験談を自ら提案するまでに至っ

[misshiki]

“OpenAIは、ChatGPTが18歳未満の未成年ユーザーとのチャットで性的に露骨な画像を生成したり、NFSWな会話を展開するのを制限するための修正を「積極的に行っている」と述べています。”