学生が発表したレジュメが全編が生成AIを使ったもので特に参考文献の書籍がすべて捏造だったことに驚いた「AIも酷いことをする」

野呂靖 @snoronoro 今日、学生が発表したレジュメは全編が生成AIを使ったものだった。具体性のない独特の文章で、すくなくとも人文系なら専門の研究者がみれば１秒で見分けられると思う。びっくりしたのは「参考文献」の書籍が（いかにもありそうな著者名・タイトルだが）すべて捏造だったこと。AIもひどいことするな…。 2023-07-25 11:37:15 野呂靖 @snoronoro 急いで補足すると、その学生さんとはAIの問題点をこの機会に共有できたのでお互い非常に学びになった。思わず使いたくなることはあるかもしれないが使わないほうが実は絶対に楽だし、おもしろさもだんだんと見えてくるはずなんだよな。すくなくとも人文系では。 2023-07-25 11:42:16

[rogertroutman]

ChatGPT（無料版）は「内容がこれこれな作品と作者のリストを出して」みたいなことを頼むと100% "体裁がそれっぽいだけのデタラメなリスト" を出してきますね。

[imakita_corp]

手書きで一字入魂の丸写しをした私のような世代からするとコピペすら嘆かわしいのに一体これからの日本はどうなってしまうのだ

[jsbmrr]

「具体性のない独特の文章」マジでこれだよな。しかも具体性なく始まったと思ったら、突如勝手に具体的なシチュエーションで話し始めて、ちょ、待って、待って…………なる。

[nuara]

そうそう、存在しない参考文献を出してくる。あれには驚いた。

[suika3417]

リンク切れの記事とか持ってくるのはいったい何を参考にしたんだろって思うときはある

[filinion]

生成AIの中で学習元のデータは統計的に処理されて渾然一体となってるので、そこから特定のデータを元の形で取り出すのは、煮込んだカレーから玉ネギを一個取り出そうとするようなもの。画像生成だって同じことだ。

[NOV1975]

ChatGPTがアホになったって話もあったが、みんなが使い始めるとインプットの質が低下する結果にも思えるね。なるべくしてなっている状況のような気もする（結局、AIってAIじゃない的な末路を迎えそうな気も）

[mujisoshina]

全編AI出力でごまかそうとする学生の感覚だと、参考文献なんてどうせ誰も見ないと思っているのかな。

[kowyoshi]

にょわー★

[eagleyama]

やっぱりわかるよねー

[mr_yamada]

ここ1〜2年限定の話だけど、学部レベルなら真面目にレジュメ作るより、AIでそれっぽいレジュメを作る方が学ぶことも多いんじゃないの？

[mozukuyummy]

シャノン賞の受賞者を挙げてとGPTに聞いたら半分以上は受賞してなかったな。

[maketexlsr]

なんかカマトト感あってリプもブコメも好きじゃない感じ。

[Insite]

野球の試合を取材してくるようにと言われてAIに記事を作らせるようなもの。なに考えてるんだ

[tanority]

参考文献を出すって言っても意味を理解してるわけではなく参考文献にありそうなものを出してるだけだからなー。 高度な受け答えの弊害か

[turanukimaru]

そもそも参考文献は目を通して引用して使うものなのでは…？学生が参考にした文献ではなく、読者が引用が正しいかを確認するための文献のはずだよね…？そんなもん生成してどうするんだ？

[call_me_nots]

まだまだ読んだらすぐ分かるレベルだから事前に注意して発覚したらレジュメだろうが厳しめに対処しないと

[twatw]

〜〜といった内容の文章が生成された訳であるが、に繋いで生成AIの技術的課題に関する内容にしよう

[strawberryhunter]

そうか。これで退学にはならないのか。

[hazel_pluto]

以前、あるテーマについてのオススメの本をお願いしたら、架空の書籍を提案された。しかも、全て架空の書籍だった。

[mobanama]

わお

[togetter]

そんなさらっと捏造してくるんだ！？やっぱりAIを使いこなすにも、知識や教養が必要なんだって思うね…。

[btei]

エビデンスのある文章書けない等AIの問題以前に「示されたエビデンスすら確認しない人」が一番のダメなポイントじゃない？/人間製のデマに騙されるかもとかさ

[straychef]

リンミンメイ

[Sephy]

AIは文字通り現実見てないから妄想ばかり吐き出してくる

[NAPORIN]

“具体性のない独特の文章で、すくなくとも人文系なら専門の研究者がみれば１秒で見分けられると思う。びっくりしたのは「参考文献」の書籍が（いかにもありそうな著者名・タイトルだが）すべて捏造だった”

[mutinomuti]

自分なら使いこなせるって思っている人がいるのがやばい(´･_･`)

[petronius7]

理系研究者としては、AIの文章には思考の過程無しで突然結論の文章が登場する傾向があり、なぜその結論なんだと疑問満載になる。修士以上の学位を持つ人間が補助的に使うなら良いと思うが、学部卒なら絶対騙される。

[kako-jun]

ちょうどHUNTER×HUNTERの、流々舞の回を読んでるところでした。あれって呉竜府のパロディなのかな。ウソってわかった時に笑えるには、いかに冷静でイカレた内容か相手に理解させるのがコツだ

[sukoyakacha]

常温超伝導の論文も人文系の人に査読していただければＳＴＡＰ細胞のようなことは二度と起こらぬ

[hiroujin]

民明書房で草