科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能と判明

Facebookを運営するMetaに属する人工知能(AI)研究所のMeta AIが、「科学知識を蓄えて融合し、形にする」ことができる自然言語処理モデル「Galactica」を2022年11月15日に一般公開しました。しかし、このGalacticaが科学的に間違った内容も出力できることが明らかとなり、Meta AIは公開からわずか3日でGalacticaのデモを非公開としました。 New Meta AI demo writes racist and inaccurate scientific literature, gets pulled | Ars Technica https://arstechnica.com/information-technology/2022/11/after-controversy-meta-pulls-demo-of-ai-model-that-writes-

[sasasin_net]

ソーカル事件を無限に量産できそうだ https://ja.wikipedia.org/wiki/%E3%82%BD%E3%83%BC%E3%82%AB%E3%83%AB%E4%BA%8B%E4%BB%B6

[nlogn]

AI自動生成論文が大量に投稿されたら、それをすべて査読するのは不可能。フィルタリングできる査読AIが必要か。

[sierraromeo]

なんだこの最後の煽りは…？

[totoronoki]

ギャラクティカがガラクタになった

[cartman0]

簡単な論理式理解しないと無理そうやな

[diveintounlimit]

そらそやろ