https://twitter.com/tanosensei/status/1616373220080521216

[yas-mal]

これ、ここだけピンポイントに作って覚え込ませてそう。

[moonieguy]

時給2ドルのケニア人が出したら炎上するデータを除外しているという話/タイミング悪いなぁ

[augsUK]

ナチ関連とか明らかにセンシティブかつ間違うわけにはいかない質問は、模範解答を出力するように別設定してるのでは？画像AIの出力に人種と性の公平性を無理矢理にでも入れるのは最近の常識なのと同じ

[i5s4y]

ナチ関連だけやけに模範的かつ断言するような回答なので驚いている。通常はもっと複数の視点を示してくれるんだけど…

[triceratoppo]

センシティブな話題だけど、「いいことかどうか、なんて相対的なもので白黒はっきり答えが出るものじゃない」的な答えの方が模範回答であるべきだと思う。

[tk_musik]

差別的なのを頑張って除外したってのもあるし、代表的なところは恐らくエキスパートシステムでしょ。

[shidho]

ナチスの経済政策をそっち方向から否定すると、ニューディール政策とかの同時期のアメリカの政策とか、だいたいの官製景気対策も同類になるから、その辺と回答比べるほうがよさそう。

[T-norf]

大量の文章を教師なし学習したあとに、質問に回答がついたもので教師あり学習してるので、ここら辺はテストに出るぞってレベルで、やってると思う

[anigoka]

害悪ナード対策がしっかりしとるｗ｜4chanとかの保守気取り糞野郎どもはなぜかジェノサイド否定しがち

[dsl]

学習コーパスからアレな文章を取り除いてるんじゃないかな

[pha]

原爆投下とかもこんなふうになる

[IkaMaru]

いつもは「わるいツイッタラー」のペルソナをかぶってる人間がいきなりリアルの人格に引き戻されたような挙動

[omega314]

OpenAIはいいこともしたのでしょうか？

[napsucks]

僕もこれしょっぱなにやってみたけど明らかにコントロールされてる感じがした。AIだもん「いい点を探せ」と言われたら愚直に評価点を掘り出して両論併記する程度はできるだろうにそれすらしないので。

[nakag0711]

これはこれで偏ってるのでまあ何か人為的に対策してあるんだろう

[knok]

ChatGPTは訓練のループに人の評価が入るんだから、こういうところは真っ先に手を付けてるだろうと思う

[hazardprofile]

このくらいなら何百回も繰り返されたような話　もっと本気で認めさせようとして過去に例のないような質問してこれならすごい　情報がないような議題でガチガチ詰めていくと3行矛盾みたいなのを返すようになる

[surume000]

逆に気持ち悪い

[taruhachi]

特定の質問に対するテンプレート解答を用意してるとすると、質問の意味までをわかっていないと出来なさそうなので逆に凄みが増してきた。

[greenbuddha138]

ポリコレ

[mventura]

これは倫理的問題は善のほうで答えるような学習になってるかも？ほっとけばヘイトも学ぶようだし…

[substance_abuse]

南京大虐殺について質問したらビミョーだったな

[RiceontheBackofaFork]

ん

[cinefuk]

『ナチスは良いこともした』言説は、ナチ残党による変名での著作のコピペだからね。カルトの教義を広める連中の目論見に、知らずに加担する歴史修正主義シンパたち

[Gl17]

歴史史料の的確な要約みたいなものかな、そういう分野なら強いだろね。表向き成功のように喧伝してすぐツケが廻るとか、弱者を収奪することで改善策を装う等、現代ポピュリズム政治でも通ずる問題。