架空の内容を答えることも...特に日本で、ChatGPTの「不誠実さ」に注意が必要な訳

＜「返答すること」を優先するあまり、内容の正確さに疑問が残るチャットGPT。だがフレンドリーかつ不誠実なAIは今後もシェアを拡大していくだろう＞ チャットGPTなど対話型AIが急速に社会に浸透しようとしている。こうした新しいAIは従来型とは異なり、対話力が高いため、取りあえず何らかの答えを返してくる。 しかし、ネット上にある情報を収集し、一定のアルゴリズムによって結果を得ているという点では従来型AIと変わることはなく、言い方を変えれば、ただ会話がうまくなったAIでしかない。 同じ対話型AIでも、マイクロソフトが同社の検索エンジンであるbingに実装したものは従来型に近く、分からないことは分からないと返してくる。一方、チャットGPTはとにかく返答することを優先しているように思われ、架空の人物をつくり上げてしまうことがあるなど、少々不誠実なAIと言っていい。 厳密にはAIが不誠実というよりも、

[secseek]

なんで「特に日本」なのかと思ったら、誹謗中傷が多くて複製が多いからだそうで。誹謗中傷は外国でも多いんじゃないのって思いますが複製についてはよく分かります。リツイートがやたら多いとかですね

[piesikot]

「社会の質が高ければAIは有用であり、社会の質が低ければ害悪をもたらす」そういうことなんだろうな。より良い道具を使うには、それを使う者もより良くならなければならないということかも。楽はできないね。