AI対話ソフト「ChatGPT」拡大 “誤り気付きにくい”指摘も | NHK

質問を入力するだけですぐに自然で説得力のある回答が返ってくる、AIとの対話ソフト「ChatGPT」の利用が個人や企業のあいだで急拡大しています。 一方で、あまりに人間らしい回答であるため、誤りに気付きにくいといった課題を指摘する声もあがっています。 この対話ソフトはアメリカのベンチャー企業「オープンAI」が開発したもので、去年11月に無料公開が始まりました。 ロイター通信によりますと、公開から2か月ほどで月に1回以上サービスを利用した人が1億人に達したということです。 大量のデータをAIが学習していて、質問を入力すると人間が作成するような自然で説得力がある文章を作成することができるのが特徴です。 例えば、世界で1番おいしい朝食は何かと尋ねると、地域や文化、個人の好みの影響を受けるため答えは1つではないと回答します。 また、企業では大量の顧客データを学習し、ネット通販の商品の提案や返品手続き

[ENUmori0183]

人間の認知には、流暢性ヒューリスティック (fluency heuristic)というのがあって、わかりやすい文章ほど真実だと思いやすいので、現状の文章は読みやすくでも真実かどうかは保証されないというのはややリスキーに感じる。

[chainwhirler]

AIの原理を理解することが重要。「嘘をつく」とか言ってる人たちはAIを擬人視してしまっている。もっと言えばAIは事実を認識しているわけではないので「正しい」も「誤り」もない。

[yamiyami27]

凄いと話題になってるのは想定通りの返事が帰ってきてるのが目立ってるだけで、大抵はそれっぽい回答しか得られない。

[Imamura]

邪馬台国の場所を聞くと嘘を堂々と答えたりして、「知りません」と言うと死んでしまう奇病の人が一生懸命作り話をしているように感じる（用途を理解して使うぶんにはとてもよいです）

[yamada_k]

知っている人のように堂々と話すので、ちゃんといろいろ検討して答えているのかと誤解するかも。原理を知らないと。

[short13]

内容はある程度作れるけどバリエーションが乏しい自分にとってはとても参考になるんだよな。chatGPTからの回答を形式だけを流用して書き直していくだけで完成できるのはけっこう助かる。

[ichan128]

何と言おうがこれは革命。

[cartman0]

最終的にトートロジー的な意見な気がする

[rissack]

現状挙げられている問題点も、今後どんどん解消されていくのだろうなぁ…

[Machautumn]

ついにNHKが取り上げた！

[summoned]

人間だとおかしな主張してる人は言葉も下手なこと多い(教祖レベルの大元除く)からなあ

[poad1010]

自然というか、人間でもわかりづらい巧妙かつ高度な誤りを返して来得るから、詳しくない事柄を聞くと間違った回答によって結果的に騙されるかたちになり得るのが問題

[zakusun]

人間だと誤らないとでも？人間は嘘をつくし騙すし、時に機嫌が悪かったり、一方的に生理的に嫌われたりするからなあ。

[misshiki]

“ロイター通信によりますと、チャットGPTが去年11月に公開されて以降2か月ほどで、月に1回以上サービスを利用した人が1億人に達したということです。”今は面白がっているだけで、普段使いするようになるんかな。

[kuzudokuzu]

すごく雑に言うと「ChatGPT」に惚れ込む人は「盲信しやすい」とも仮定できるかもね。使った後に「thx cu l8er（ありがとうまた後で）」と書くと（つまらない）定型文で返してくるので、人格を認めないよう遊んでる。

[jintrick]

コードで別解書かせてみると、へえーこんなオブジェクトも使えるのか、的な発見が得られる。リッチなIDE使えばウソつかれてもすぐに分かるから今のところ有用だし、楽しく使えている。

[strow0343]

インターネッツでは人間も事情通かのように思い込みの情報を垂れ流すし(今日も観測された)、人間だろうとAIだろうと警戒するに越したことはない。

[medical_910]

医療については絶対検索してはいけない。とんでもない間違いがもっともらしく書いてある。さっき深部静脈血栓の治療を聞いたら抗凝薬(フェノバルビタール)と答えてた。

[paperot]

web黎明期と同じ

[hiby]

いかがでしたかブログを読み上げるツールくらいの精度なんだけどなんか急に持て囃されて自分が天才と勘違いして狂っていく姿みたいなの実に人工知能って感じで良い。

[NEXTAltair]

👍🏽👎ちゃんと使って育ててる段階。みんなもちゃんと評価を送ってやろうよ

[neko2bo]

正も誤も関係無くパターン的に結果を吐き出してる。と思って見ている。

[qawsklp]

嘘を嘘と見抜けないとAIを使うのは難しい.. まぁ、こやつ意味不明な事言っとるな..てわかるんやけどね..

[temtan]

ネットだけ見て知ったかぶりをする人のスゴい版だと思ってる。言葉の意味とか現実とか一切考慮しないでネットに書いてあった事を適当に繋いで喋ってるだけよ。

[nemoba]

誤りではない。そもそも正しい解答をしようとなんてしてないから。文章生成を人好みに主力させたら人は正しいっぽい解答が好きだっただけや。機械から見たら人は上っ面の正しい答えが好きに見えるだけや。

[minamishinji]

正しい使い方を学ぶ、これが難しいんだよね…この手のツール。

[mohno]

「チャットGPT」「オープンAI」←そこは“ChatGPT”“OpenAI”と書いてほしかったなあ、縦書きじゃないんだから。「あまりに人間らしい回答であるため、誤りに気付きにくいといった課題」

[htnmiki]

キャズム越えた感

[horaix]

そこに真実なんて微塵もなくても、語りがそれっぽいだけで支持されるのって人類を象徴していると思う。ひろゆき的というか

[gabill]

テレビのコメンテーターの「なんかそれっぽいことを言う」というスキルと似ている。

[tribird]

使う人間次第みたいな所あるよね。創作活動の手助けにはなる。攻略法、修理の仕方、レシピみたいなもんはグーグルに軍配。

[TETSUYA01]

「その意見を裏付ける情報が載っているURLを教えて」とAIに指示を出して、情報ソースを確認して裏どりすればいいのではないだろうか。

[TakamoriTarou]

NHK入り。

[tyhe]

これで自然言語の勉強でも出来たら便利なんだけど、現状はそれっぽい嘘と本当を見分けることはできないので難しいなー。プログラミング言語の勉強なら実行して成否を確認できるからもってこいなのだけど。

[mr_yamada]

対話内容が正しいことを誰も保証してないんだから、最初から疑わない時点でダメだよ。リテラシーの問題。

[harumomo2006]

chatGPTに騙される人は人間にも騙される