星 暁雄 (ITと人権) on Twitter: "「AIのつく嘘」の問題について、連続ツイートをします。 会話するAI（知識ベース会話モデル）は事実と異なる発言をすることが知られており、この現象は一般にHallucination（幻覚）と呼ばれています。 この問題はごく最近に… https://t.co/328suuJSHS"

「AIのつく嘘」の問題について、連続ツイートをします。 会話するAI（知識ベース会話モデル）は事実と異なる発言をすることが知られており、この現象は一般にHallucination（幻覚）と呼ばれています。 この問題はごく最近に… https://t.co/328suuJSHS

[unfallen_castle]

AIが嘘をつきやすい分野ってのは多分あって、それをなんとなくでも把握しておくことは必要かも知れない

[turanukimaru]

返答を生成する＝連想される単語を続けて、欠落は違和感なく埋めてるだけ。なのにそれが正しいことを期待するほうがおかしいと思うのだが。理系の会話は人文系に比べ欠落が少ないことが多いだけだ。

[hirokinko]

「Chat GPTはこう言ってるけど…」ってハルシネーションが出た結果を専門家でない人にドヤ顔で言われて閉口してる専門家も結構いそう。

[pmint]

人間と同じでしょ。ただ、人間のは「ポジショントーク」などと言い換えられてる。その言い換えでさえ嘘なわけで。それをAI特有の問題にするような人たちが、旧来の成果の出なかったAI研究者なんでしょ。

[puhu208n]

GPT系のHallucinationって類語を取り違えたり前後関係から雑埋めしたりする現象だから、嘘というよりレスバしてると会話が繋がらなくなるヤバい奴の挙動に近いと思う

[dgwingtong]

全てをAIに委ねていると知らず知らずの内に歴史が大幅に改変されていたけど誰も気づけない未来とかあり得そう。

[pwatermark]

今の深層学習系の「出力」の問題なんだけど、出力に対して「見直し」する仕組みが弱すぎるんだよな そっちも仕組み化自体はできると思うんだが、今の所数の暴力でそれっぽく出来ちゃってるんでねえ

[programmablekinoko]

人文系の設問にはハチャメチャな回答出してくるよな。”藤原不比等の業績は？”と聞いたら”六義大家の設立”とか言うよくわからない造語で解答された。

[ton-boo]

「AIのつく嘘」の問題、研究が進むとそのうち人間の知識吸収や教育のモデルにフィードバックされるような成果が出てこないかな

[hinonono]

「ここまでの文章から次に出てきそうな言葉を考えてください」て感じの仕組みで動けと指示されてるのに、事実と異なるぞ嘘つきだとか言われるの可哀想。

[haruhiwai18]

"そのまま嘘に嘘を重ねて大歴史改変を繰り広げた形です。源為朝が、史実では参戦していない平治の乱で、当時数え1歳だった源義経に「救出された」と堂々と記載している点など、驚かされます。"　→笑える（笑えん）