「誓って言うんですが、AIに要約させるのは本当に怖い現象」…情報の汚染が酷すぎて、結局原典を読むしかないみたいな世界 _(:3 」∠)_

同志カルロ・ゼン@〆切が苦手 @sonzaix 誓って言うんですが、AIに要約させるのは本当に怖い現象です_(:3 」∠)_ 自分の専門領域なら『ああ、こんな雑な間違いを』ってため息で済みますけど、自分がわからない領域だと『何から確認すればいいの？』みたいに辛い_(:3 」∠)_

[somaria3]

大方の人間が要約するほうがよほど質が低い。原典にあたる必要はAI関係なく対象の重要度による。いまだに検索すりゃ分かる程度のことを雑にAIに投げてハルシネーション問題にする馬鹿につける薬はない💊

[nyaaaaaaaaaaaaa]

人がやってた、まとめサイトだって相当怪しかったからあまり変わらないよ。

[homarara]

雑なだけならともかく、完全なデタラメをさも本当の事かのように説明してくるのがなあ。

[mmaka2787]

インターネット前から原典/一次情報に当たれは常識中の常識だろうに。。それが不要な程度に重要性の乏しい情報はAI要約で十分てだけ。

[mr_mayama]

どのモデルで何を投げたら、という話がないので無意味な論

[snowboard_fan]

AIの要約がネット情報を元ネタにしたものだからね。「恋人の存在は調べたら見つかりませんでした」系サイトとやってることは一緒なんだよな。

[mayumayu_nimolove]

昔こういう輩が、ネットが出た時メールを否定して訪問や電話しか認めないとかだった。時代は変わっても人間は全く成長しない。

[Yutorigen]

AIは無から情報を生み出しているのではなく人間の作った情報をベースにしてるだけなので、結局人間の作った情報が玉石混交というだけ。どれだけAIが発展しても情報の正しさを見抜くための知識は要る。

[mujisoshina]

問題なのは要約が不正確なことではなく、実態以上に正確だと思い込まれやすいことなのだろう。

[tanglejar]

検証すれば間違いは分かる。知識が足りなくて検索方法がないものを、自然言語での対話形式で、知見を蓄積しながら調べられるのが革命的過ぎて、対処可能なハレーションなんて誤差だよ誤差。

[tg30yen]

>AI検索がその辺を上手くやってくれるかと思ったら、AIのテキトーなごまかしを見抜く手間が増えただけでした

[ghostbass]

ChatGPT4だといまだに嘘を返す事例がある。それもかなり簡単な部類の単語の説明において。生成AIは正しい答えは返さない。

[deep_one]

「今投げた文章」を要約させたのか、「一般的な事象」を要約させたのか。後者はそりゃ無茶苦茶になる。

[pwatermark]

お前らだって要約する時に自分の頭に入ってる知識だけでやるか？調べて裏取りするだろ？LLMにもそうさせればいいんだよ

[slack_pulse]

今まで何を情報ソースにするかは個人や会社の出している情報だったけれど「あの人が書いたから信頼できる」というのが「あのモデルの出した答えだから信頼できる」形に変わるという話なのではないかな

[yamadar]

『この画像の頃は「嘘見抜きスキルレベル5」くらいで大体OKだったのが、今はレベル30くらい無いと厳しくなってきている感じですね』まぁこれは確かに

[harumomo2006]

仮に人間より質が悪いとしても複数回の要約を秒でこなせるんだから五賢者システムみたいなことをやればそれなりの質は確保できる。それで足りないなら賢い人に依頼するしかない

[daruyanagi]

仕事で AI 使ってみようかなって思うことはあったんだけど、これが面倒で結局辞めた。でも、自分の知識ぶちこんだパーソナル AI にはまだ期待してる（主に検索と断片的に仕入れた知識のネットワーク化

[newforms]

自分の感想を誓うのも変だし、要約させたいなら与えた文章以外からの情報を吐かないように縛れば良さそうだし、全然しっくりこない

[nobiox]

この「誓って言うんですが」はどういう意味なの。「声を大にして言いたい」とか「これだけは確信持って言える」とか？

[yoshi-na]

人だろうがAIだろうが原典の方が間違いないのは当たり前（そういうことではない）

[kei_0000]

AIが嫌いな方は、何か一つ気に入らないことや欠点を見つければ、即AIは全部ダメ、みたいな空気にしたがる。まあAI好きの方や金儲けの方はその逆だけど。何にしてもAI関連はじっくりその価値を見極める必要がある

[natu3kan]

信頼のある一次ソースまで調べる人が今も少数で、信頼してるメディアが一次ソースを見に行って伝えた結果を見ればいいってなるの人間の省エネの性質だよね。

[q-Anomaly]

おお、人気ブコメがどれも見事に中身を読んでいないな。ハテノさんのコメントと比較したい。AIの話は主題ではなく、ネットの情報はゴミだらけだから書籍を読みましょうという話だった

[wuqgvnfrdt]

がっかりだな。正しさと自分の判断が大事なら最初から使わなければ良い。

[osakana110]

今の所、AIは機械じゃなく盛大な思い違いをする人間からの回答くらいにとどめておくといいよ。

[Hidemonster]

要約以外にも色々とやらせてみて(フレームワークから事例を作るとか)出来栄えに感動したのでこれからはもうなんとか使いこなすしかないと感じている

[wdnsdy]

ChatGPTのo1 previewを使ってみたが、だいぶ賢そうな返答をするようになっていた

[Goldenduck]

無駄にスクロールしまくったり誤クリック誘導広告食らったりするいかがでしたかブログよりよほど使える／ただGoogleの検索結果に出てくる要約はマジで使えない。あれは一体何が起きてるんだ

[nori__3]

要約見てから精読するだけ

[Gim]

うーん、反対。例えば、転送メール→業務連絡メールを見て→WEBを見て→PDFを見て。より、転送メールに要約がある世界がありがたい。汚染されている場合は、転送する社員か原典を見た社員が対応すべき。

[R1na]

チャットGPTなんかを使ってるからそう思うのでは？　クロードだとかまともなのを使わないと

[hotelsekininsya]

まだまだAIは始まったばかり。しかし、その進化速度は著しく、例えば最近のGoogle翻訳の精度はかなり良くなった。

[tobineko100]

情報商材屋構文（「炎上覚悟で言います」「これはガチなんですが」「何度も言いますが」「勘違いしている人が多いですが」「断言しますが」「ズバリ言います」等々）に拒否反応を起こして、頭に中身が入って来ない。

[tettekete37564]

ChatGPT-4oになってからハルシネーションはかなり出なくなったがいつの話してるの？要約に関しては粒度や包含関係を表させる指示が難しいが。

[tigercaffe]

未知の領域でchatGPT任せにするとAIが提示した情報が事実か確認がとれないんだわ。LORAが自分のPCで使えない理由を検証してもらったとき、結局グラボのパワー不足と判断するのに数日かかった。

[yaguchi_m]

はてなブログのAIが記事の内容を解析してタイトルを自動的に生成する機能を使ったことがあるけど、国語の先生に叱られそうなタイトルの作り方だったので結局自分で考えた。

[eroyama]

難しい増田の場合はまず要約がないと原典が顧みられないのでAi増田による要約はとても重要　/　調べたら見つからなかった、も立派な調べた結果で事実なのでかなり意味がある

[kagerou_ts]

プログラムとかでも平気でそれっぽい嘘オプションを提示してくるから、「ええ～ほんとにござるかぁ～？」の精神で使ってる。なんか意地でも「その方法はありません」とは言わない感じが

[hardt]

「・・・って誰かが言ってた」の域を一生出ないと思う