コンクラーベから万博トイレまで…生成AIの答え信じて大丈夫？ | NHK

日本語の「根比べ」の語源は「コンクラーベ」？ 知らないうちに事件の犯人にされてしまった人まで… 生成AIを調べものに使う人が増えています。最近では、通常のネット検索でもAIが出す答えが上のほうに表示されるように。 ただ、しれっと“ウソ”をついてしまうケースも。 なぜそんなことが？気付かないうちに身近なところに入ってきている生成AI、どう使っていけばいいのでしょうか？ 目次 “万博のトイレはくみ取り式”は誤情報のはずが… 知らないうちに殺人事件で判決受けたことに？

[dlit]

ちょっと出演しています。補足の記事を書きました：https://dlit.hatenadiary.com/entry/2025/05/19/132625

[tobineko100]

困苦等ー辺（コンクラーベ）…中世から続く教皇選出方法である。候補者は狭い空間に押し込まれ、誰が最も困苦に耐えられるのか競い合う。尚、日本語の「根比べ」の語源である事は言うまでもない（出典：民明書房）

[mayumayu_nimolove]

いや平気で嘘つくから気をつけるって事でもうええやん。未だそのレベルなの？って話だと思う。

[twmw]

AIの信頼性が低い牧歌的な時代を堪能しましょう、同じアホなら踊らにゃ損損😍今後「自分で調べるよりも、専門家に聞くよりもAIの方が信頼できる」という社会的コンセンサスが出来上がってからが本当の地獄😱

[mohno]

「そもそも生成AIは単語の意味を理解しているわけではなく、文章が正しいかどうかも判断できていません」「疑いを持った場合には情報の原典を調べる」←“疑いを持つ”ためには基礎力が必要だと思うんだよね。

[aramaaaa]

こういう世の中に広がっている誤情報を学習してしまうケースはある程度理解できるのだが、勝手にソースを捏造するケースが多く、偽の国会図書館コードとか平気で出してくるので、少しは倫理観を学ばせた方がいい

[cl-gaku]

AIだから信じる、という姿勢の人よりはAIでも何でも信じちゃう人のほうが今は多いんじゃない

[minaminoani]

自炊した電子書籍(SF小説)を投げて章ごとにあらすじをまとめてくれと指示したら、第一章は上手くまとめてて感心してたが、第二章からちょいちょいオリジナルの登場人物が出てきた。最後は全然違う結末に…

[houyhnhm]

ハルシネーション以前の問題で、ソースの信用度が分かってないんよねえ。

[tafutanisu]

ゲームの攻略法を聞くと、結構いい加減な回答が来るからな。

[nakag0711]

坂村教授久しぶりに見た

[iwasi8107]

「そもそも生成AIは単語の意味を理解しているわけではなく、文章が正しいかどうかも判断できていません。」

[misshiki]

“生成AIによる間違い、ハルシネーションは減ってきていますが、疑いを持った場合には情報の原典を調べる。特に、データの少ないものに関しては気をつけるべき”

[togusa5]

「ダウナー系お姉さんに毎日カスの嘘を流し込まれる話」

[settu-jp]

スマホとは相性が悪いと思う、原文からの裏取りがしにくい。雑談程度しか使えないよね

[FUKAMACHI]

民明書房を本気で信じる小学生かよ。“「根比べの語源は、中世ヨーロッパにおける教皇選出方法であるコンクラーベに由来するとされています」”

[akitanaka510]

現状、AIの出力が嘘かどうかを自分が見抜ける分野しか使うべきではないかなーと思ってる

[rdlf]

まぁ、タイトルに対する答えはダメに決まっているだろう。

[wackunnpapa]

これはGoogle検索にて「正しい回答」が上位に来るわけではないのと問題の根っこは一緒。基礎知識を得るために労力を惜しんではいけない。

[Domino-R]

AIは事実性の確認には全く使えないと思ったほうがいいと思うぞ。使いたいなら根拠となるURLを示させ、そこを自分で確認しにいけ。

[Nean]

所詮この世はハルシネーション。

[whkr]

アプリの使い方をグーグル検索するとトップに出てくるAIの回答では、そのアプリに存在しない項目を設定しろとよく書かれている。確認が必須なので基本的に読むだけ時間の無駄。

[suzu_hiro_8823]

どうも"ほら、こんなことをAIがいってるからぼくちんはただしいんだ"みたいな使われ方をしているから問題なのだろうと思うんだよね。それでも"こたつ記事書き"よりは広範なデータを参照してくれてるようだけどね(-_-)zzz

[pharmalysis]

飯を食うでごわす！！

[daybeforeyesterday]

うーむ

[gnety]

次に出てくる確率の高い単語を予測しているだけだということを理解しているかいないかで使い方に差が出てくる。ファクトチェックはうまくいかないことが結構あるので信用してはならない

[lex010]

本当かどうかは知らないけど、AIエンジニアはインド人が多く彼らの「わからないことを答えないことが相手に対して不誠実」という美意識からハルシネーションが生まれると聞いた

[yarumato]

“AIには無知の知がない。知らないということを認識できない。知らないことを聞かれても知ったかぶりで答える。　そもそも生成AIは単語の意味を理解していない。文章が正しいかどうかも判断できていない。”

[sakidatsumono]

そりゃただのハルシネーションだ

[milano4121]

「生成AIとは何かを一言で説明してください」とChat gptに聞いてみたら「すごく頭のいい予測変換です」と返ってきてすごく腑に落ちてる

[Dolphin7473]

すごいな．この世代の学生が研究を始めるのが楽しみ“東洋大学の情報連携学部では、2年前から、すべての学生が無料で最新の生成AIを利用でき、授業や課題で自由に使っていいとしています。”

[sds-page]

人間とAIが違うかどうかは人間とチンパンジーの遺伝子が99％同じと見るか1％も違うと見るかの捉え方の違い

[ssfu]

SNSで陰謀論蔓延してるこの世界で、AIの嘘を見抜けは無理でしょ。

[theta]

“東洋大学 坂村健名誉教授” ここびっくりした

[otchy210]

とは言え、変な陰謀論に絡め取られたアカウントに YouTube がお勧めする動画よりはだいぶ信頼性が高いのでは。老親には AI にハマってもらった方がマシよね。話し相手にもなってくれるし。

[secseek]

相手が人間でもAIでもウェブでも、言われたことを鵜呑みにしないで裏付けが必要なのは変わりません。特にAIだからどうこうってことではないでしょう

[hayasinonakanozou]

間違いを指摘しても「すみません間違えました、以後気をつけます」とか謝らずしれっとあわせてくるのがムカつく。まあそれでも便利だから使うんだけど。

[kobak]

AIの出力なんて全てがハルシネーションみたいなもんで、その判断基準は人間の都合でしか無いと思って使っている。