出した覚えのない論文が勝手に自分の名前で聞いたことのない論文雑誌に載っていた...内容もAIが書いたとしか思えない→その目的があまりに狡猾すぎる

藤井一至 (土の研究者) @VirtualSoil 土の研究者。将棋アマ5段。新刊『土と生命の46億年史』（ブルーバックスamazon.co.jp/dp/4065378389/）ほか、『大地の五億年』、『土 地球最後のナゾ』など。関西学生王将。fjkazumichi at gmail.com sites.google.com/site/fkazumich… 藤井一至 (土の研究者) @VirtualSoil 恐怖！身に覚えのない論文が、私の名前で聞いたことない雑誌（ハゲタカ系？）に載っている。。。AIが書いたとしか思えない内容。所属はなぜか東大で、その中の部署は森林総研。メールアドレスはちょっとだけ違う笑 longdom.org/open-access/di… 2024-11-10 00:51:22 リンク Longdom Longdom Publishing SL | Open Acce

[teruspr]

個々人は泣き寝入りするしかないのかもしれないけど、アカデミアとしては何か対策しないと、「ジャーナル名見て見分けてね」では困る。研究費には、各国で膨大な税金と学生の授業料が流れてるんだから。

[kosuke392]

いまwikipediaが生成AI作成の嘘記事に汚染されていて、中には無関係な実在の論文を参照した体で生成された記事もあるらしい。これが論文からAI生成されていたらwikipediaに限らず、論文そのものに対する信用が崩壊してまう

[asherah]

AIに関する法整備が望まれる。こういうの放置するの社会的に害悪でしかない。

[yorkfield]

"AIに関する法整備が望まれる。" この件でAIは本質的に関係ないだろ。人手で同じ事やったら許されるわけじゃ無いんだから。

[marunabe]

AI関係無いかって言ったらあるでしょ。コスト払って嘘論文書くのは途中で挫折するヤツがどんどん嘘論文出せるようになるんだから。AIは悪事へのハードル下げてると思うよ。

[ata00000]

ブコメ、この内容に対して「AIに関する法整備が望まれる」ってズレてない？実在の人物に似せた架空の人物をでっち上げて論文もどきを出しちゃう人が、AIが規制されたからって素直に従うとは思えないんだが

[nicht-sein]

なんとかして防がないと学術論文が信頼できない物になっちゃうんだけど、どうやったら防げるのかが思いつかない。既存の信頼にただ乗りしてその業界を潰していく人達をなんとかできんもんかなぁ

[yoyusuyasan]

AI規制できたら処置が大分しやすくなるし簡単にどんどん溢れてくものを止めるにはそうするしかないという話ね。

[BlueSkyDetector]

AIとか関係なく、公的な機関で信頼できるジャーナルのリストを作ってメンテナンスしていってくれればいいだけな気がする

[Galaxy42]

これを業績としてポストを得る人が現れてからが本番

[luthyphen]

『ハゲタカ出版社、こっそりフェイク論文の著者名だけを別人に変更』　https://x.com/VirtualSoil/status/1857415534448656422　2024年11月15日

[lamrongol]

id:yorkfield id:ata00000 id:BlueSkyDetector 「AIじゃなく人手でやっても同じ」、そうだね、銃じゃなく拳でも人を殺せるから銃規制は必要ないね

[daruyanagi]

論文も電子署名の時代やね _(:3 」∠)_

[T-miura]

すげえ

[NAPORIN]

”London Publishingは典型的ハゲタカジャーナル出版社。フェイク論文で彩り、見せかけの論文を必要とする人から高額な金額をまきあげる。当初は実在する論文を無許可で掲載/AIで自己生産”　論文だけにペーパーカンパニー

[bean_hero]

ハゲタカジャーナルを見分けるAIを作って、それをすり抜けるスーパーハゲタカジャーナルが現れて・・・

[splaut]

AI規制するったってそもそも全員が見分けられる訳でも無い、個人が使用するのを止められる訳でも無いし現実的な対策あるんかね。活用してるのを全打ち止めと言うのも非現実的だし。てかどう法立ててもザルになりそう

[runeharst]

いつの時代もツールを使って悪さをするゴミが存在する。それが今回はAIを使って、ということだったわけだけども・・・

[SENAKA]

テストのような気がする。この人だけじゃなく他にも何人かやられてそう。

[brusky]

掲載するジャーナルが自作自演してるのか。所属も適当にしてたら同姓同名の別人ですって言い張れる（？）

[misshiki]

“London Publishingは典型的ハゲタカジャーナル出版社。フェイク論文で彩り、見せかけの論文を必要とする人から高額な金額をまきあげる。”

[togetter]

フェイク論文で高額な掲載料を巻き上げるとは…！

[dot]

引用数を稼ぐ目的なのかなと思ったらもっと闇が深かった...

[alt-native]

新手の攻撃方法だな。蹴落としたいライバルや教授がいたら、名前を騙ってAI論文掲載しちゃえば、信頼を失墜させられる。内容が盗作や偏向があればダメージを負わせられる。

[machida77]

AI生成で実在の研究者の名義で勝手に論文をでっちあげ、学術誌としての体裁を作るハゲタカジャーナル。

[differential]

実在人物のなりすましだったから偽だと分かるのが早かったけど、そうじゃなかったらバレないままの可能性まである…／AIというよりハゲタカジャーナルが動きにくくなるルールは必要

[magi00]

規制規制言うけど、一体どんな規制をAIにかければ被害が減ると思っているの？

[mkotatsu]

これはAI関係あると思う。そこそこ出来る程度の個人の悪ふざけと組織的DDoSは全然違うけど、AIはそれくらいの生産量差を出せるくらいに成長してきてる感ある。チェックする側きついなーチェック用AI出来るのかな

[ka-ka_xyz]

以前から「ハゲタカジャーナルがAI生成論文で埋まるかも」「まとも雑誌のピアレビューシステムがAI生成論文の物量により破綻するかも」と思ってたけど、「ハゲタカが箔をつけるため」みたいな使われ方は予想外

[dodecamin]

AIを規制すればいいという方々にもっといい案を教えてあげます。論文は「パソコン」という道具を使う事で尋常じゃない速度で書かれているので、この「パソコン」を規制する方がもっと効率的に規制できますよ。

[Y_Mokko]

そもそもAIじゃなくても犯罪行為であって…

[ounce]

簡単に鍵を開けられる機械ができたら泥棒はおそらく増えるわけで、生成AIがこういった無法のハードルを著しく下げていることは疑いようがない。規制に関してどうすべきかは分からないが。

[yuma_0211]

何も考えないアホや悪意による簡単な生産が問題。そもそも今の生成AIは学習データに依存してるので仕組み自体が詰んでる（生成AIは自身が生み出した大量ゴミデータで学習していく事になる）。規制でしか止められない

[naoto_moroboshi]

英語のwikipediaめちゃくちゃ汚染されてるからね。「らしい」文章を大量に作れる生成AIで色々とヤバい。

[hayashikousun]

便利な道具は悪人にとっても便利なのだ。

[fujifavoric]

すぐ生成AI関係ないって言う人は人力と比べた時の圧倒的な生成コストの低さを無視してるんだよね　アートに関してもこういうディープフェイク的な悪用への対処コストを無視している

[shigemyu]

「その人がその人であることの証明」をするのは難しいということが、いよいよ身近になってきたな。

[NetPenguin]

AIは本質的には関係ないだろ、って書いている人いるけど、本質的には関係ないのだけど、人手でやるのに比べてめちゃくちゃ低コストになってしまい、実際にやるメリットが発生してしまった状況なんだろうな、と。

[sekreto]

メールアドレス偽装したら誰の名前でも投稿できるからな。レビュワーが見破るのはほぼ不可能。

[minamishinji]

AIの課題って（一般の人が）想像もしないところから出てくるね。/ それでなくても科学に対する意識の低い日本では、この問題は相当重い問題になりそう。