ChatGPTによる回答をStack Overflowが一時的に禁止 大量のもっともらしいが不正確な回答に対処しきれず

質問するともっともらしい回答をくれるOpenAIの「ChatGPT」。プログラミング関連のQ&AサイトStack OverflowがChatGPTで生成した回答の投稿を一時的に禁止した。このAIで生成したとみられる不正確な回答が急増したため。 プログラミング関連Q&Aサイトの米Stack Overflowは12月5日（現地時間）、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。 ChatGPTは、OpenAIが開発した実験的なチャットボットで、コンプリートテキストジェネレーター「GPT-3.5」に基づいている。そのデモ版が1日に無料で公開されて以来、人気が高まっている。 Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高い

[minemuracoffee]

ChatGPT本人にも取材していておもしろい

[canadie]

「発行元の出版社に問い合わせたところ」くらいのノリでAIにインタビューしてて未来感あるな

[nicht-sein]

stack overflowは一律禁止できるからいいけど、じきに広告収入目当てのChatGPTによるそれっぽい嘘八百並びたてられた解説サイトが乱立してネット情報は更に役立たずへと成り下がるよ。

[ms2sato]

不正確な情報が人間の手よりももっともらしくかつ大量に作れるので、対応わかる。 「技術投稿サイトに初心者の勉強記事をわかった風に投稿するな」という主張を思い出した。

[timetrain]

これは本人インタビューが草

[sds-page]

お前らがプログラムに使えるって言ってもてはやすから･･･

[hogeaegxa]

まあそりゃ回答者自身が何言ってるか分かってない上に一見それっぽい嘘という回答をガンガン投稿されたらこの手のサービスは機能しないわな。掲示板でよくいる、無関係のレスを転載して連投する荒らしと同じ。

[otation]

stackoverflowは投票機能があるからまだギリギリ担保はできそう

[mohno]

「Stack Overflow…「ChatGPT」によって生成した回答の投稿を一時的に禁止」←オープンソースでもの自動翻訳を突っ込むなよ、って話があったねぇ。 https://blog.goo.ne.jp/ikunya/e/37e5a52e10ab26fcbd4f7ff867e9eace

[masatomo-m]

検証コストがタダじゃないからな。UGC関連のサービスはこの手のコンテンツ生成AIとは適切な付き合い方を考えないとコミュニティが破綻する可能性高そう

[ardarim]

ChatGPTはコメント求めたら担当者がいないとか言い訳しないでちゃんと回答するから誠実みあるな！

[wornoutemperor]

デタラメ取締強化は現状結局人間の目で行うんだからなぁ。にしても情報技術は常に進化し続けて終わりがないし正確性では一生追いつく気せんわ。小規模な対人間FAQと会話分野に関して言えば頑張ればイケそうだが。

[munieru_jp]

ただでさえ検索結果にStack Overflowの機械翻訳サイトが蔓延してるのに、今後はAIが生成したページが蔓延るようになりそうでこわい

[lnimroder]

現状でも侍エンジニア塾よりは役に立つからいいんじゃない

[fukken]

そんなもん禁止に決まってんだろ、としか思えない。むしろ質問時にSO側がAIによる回答を表示するようにしたらくだらない質問が減ったりするのでは（Yahoo!知恵袋は質問の9割が消えそう）

[knok]

機械翻訳の「一見流暢な文章だけど意味が反対、途中が抜けてる」からさらに一歩進んで「一見流暢だけど微妙に間違った解説」になってしまったか…

[naggg]

"AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。"

[amebacore]

chatGPTのトラブルでこの流れは定番化しそう

[koyuman]

analyticsの計測の仕組みについての回答が嘘すぎてびびった！たしかに一見もっともらしいがゆえに嘘を嘘と見抜けない人もいるだろうなぁと思ったよ

[Hamukoro]

ゼロ幅文字とかで透かし入れられんかな

[baihen]

Stack Overflowにそんなに役に立つ回答あったっけ。知恵袋レベルのような。それより最近そういう英語圏のQ&Aを機械翻訳で日本語にしただけのクソサイトが乱立してきて検索の邪魔でしょうがない。

[Windymelt]

「いかがでしたか？」系クソブログがこれから大量作成されるのはほぼ確定しているから自分は怯えてる。検索がさらにゴミになっていく。人間だと手を抜いたのがすぐ分かるが、AI君は全力でそれっぽい嘘を書く。

[sonota88]

Stack Overflow への投稿は CC BY になるので、そこもちょっと気になる https://stackoverflow.com/help/licensing

[kubecorn]

それらしい回答で草

[star_123]

本人インタビューは草

[sasasin_net]

ChatGPTに本件のインタビューしてるのはセンスが良い

[mn36555023]

はい

[currypurin]

“こうした問題が増えれば、ChatGPTのベータ版提供が停止される可能性もありそうだ”これは包丁を売る人を取り締まるのと同じでは？

[wushi]

Yahoo知恵袋やQiitaの初期を見ている気分なので先行きは割と楽観している

[yoshi-na]

“ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ” 聞いてるしw

[t-wada]

"生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いる" これは結構深刻な問題

[miquniqu]

取材相手にコメント貰えないときはChatGPTに聞いてお茶を濁すという手があるのか。（今回はご本人様だけど）

[deztecjp]

ホワイトリストやYahooディレクトリのような仕組みが何らかの形で復権する必要がある、という話はことあるごとに蒸し返されてきたが、いよいよ本当に大々的に必要になりつつあるのかな。

[Sumie]

やっぱり時代はぜんぜんもっともらしくないうえに完全に間違ってる回答だよな。

[thongirl]

「大量のもっともらしいが不正確な回答」ってフレーズが面白すぎる。いろんなサイトに当てはまって

[tg30yen]

QAで間違っている回答があふれかえるのは明確に有害。お気持ちでAIイラストを排除するのとはまるで違う話。

[typographicalerror]

本人、立ち回りがうまい

[quick_past]

そんなしょうもないことをするやつがいるのか(;´Д`)愕然

[moccos_info]

回答に報酬を与えるシステム設計、機能しなくなっちゃうのだろうか

[Helfard]

割と誠実に嘘八百を書いてくれるのでネタとしては面白かった。