ChatGPTの｢ウソ｣が巧妙化してきた…AI研究者が解説｢ハルシネーションとうまく付き合うプロンプトの書き方｣ ｢ノーベル文学賞を受賞したのは村上春樹を含め3人｣と言われたら

ChatGPTを仕事でも使う人が増えているが、事実と異なる回答が出てくることが多い。北陸先端科学技術大学院大学客員教授の今井翔太さんは「現在のAIで間違いをなくすことは構造的に難しく、またなぜウソをつくのかも正確に解明できていない」という――。 仕事では使えない⁉ ChatGPTは驚くようなウソをつく ――対話式生成AIの「ChatGPTチャットジーピーティー」を仕事で使っていたところ、明らかなウソをつかれました。そのときに知ったのですが、こういった現象を「ハルシネーション」というそうですね。 【今井】はい。言語生成AIがウソの情報を出力してしまうことを「ハルシネーション（日本語では幻覚、妄想の意味）」と呼びます。われわれは、2022年11月30日にChatGPTが正式公開される前から、AIを研究しているわけですが、ハルシネーションは昔からある問題で、公開時は「江戸幕府を開いたのは織田信長

[WildWideWeb]

それでは、あなたのアイデアに沿ってここまでをまとめてみましょうかという有り難い励ましをうけて、それではとお願いしてみると、事実ではないことをサクッと混ぜてくれちゃうので怖いな〜というのが最近の感想。

[ustam]

「ウソ」というのは相手を欺く意図が前提なので、今のところそうした悪意を持たないAIがウソをつくなんてあり得ないでしょ。「事実誤認」や「不正確な情報」というべき。細かいけど重要な考え方。

[misshiki]

“AIの本質的な話になりますが、構造上「知りません」と言うことはできないんですよ。基本的に前出のような穴埋め問題を連続しているだけなので”

[stock]

ハルシネ

[mame-tanuki]

「AIでググちゃうオジサン」なので気になる話題。指摘のようにプロンプト一発より再質問などで対話を重ねるとか、AI以外のソースでの裏取りが必須なのかも。

[toronei]

この前褒めたばかりだけど、昨日某政治家の経歴聞いたら、ものすごい適当なこと言うてきた上に、ある選挙区のある年の当選者を大嘘ついてきた上に、こちらがソース付きつけるまで頑なだったからなw

[kakei-akihiko]

そもそも人間も自分1人に当てはまっただけのことを一般的事実みたいに言ったりするわけで、相手が誰だろうと何だろうと嘘をつかない前提で接するのが間違い。

[strawberryhunter]

「大学教授のように説明してください」か。Grokが創造的すぎるので聞いたら「事実と想像を分けて書いてください」と素直に書けばいいって言ってた。

[nise_oshou]

そんな気ぃつかわなきゃいけないなら、普通にググるなりしたほうがいいじゃん。アホでは。

[aka_no]

geminiにノーベル文学賞の日本人が３人いるって言ったら、カズオ・イシグロを紹介されたぞ

[hatebu_admin]

うそはうそであると見抜ける人でないと(AIを使うのは)難しい

[poad1010]

この記事をおすすめしました

[ookitasaburou]

“ChatGPTを仕事でも使う人が増えているが、事実と異なる回答が出てくることが多い。”