2023年1月2日のブックマーク (1件)

  • メタのGalactica炎上事件、原因となった「AIの幻覚(ハルシネーション)」とは

    米メタが2022年11月に発表した「AI科学者」が、2日で公開中断に追い込まれた。巨大言語モデルに4800万件の科学論文を学習させた「Galactica」だ。科学的な質問に答えたり、文献調査ができたりするとの触れ込みだった。しかしGalacticaのリポートには、デタラメな内容や人種的偏見が含まれていた。問題がある内容が出力されるのを防ぐ作り込みが不足していたもようだ。 科学的な質問に答えたり文献調査ができたりする科学者のようなAI人工知能)である「Galactica」を米メタが公開したのは2022年11月15日(米国時間)のこと。メタは1200億パラメーターの巨大言語モデルに4800万件の科学論文や教科書などを学習させることで、科学に関連する様々な問題が解けるようになったと主張していた。 しかし、同社はわずか2日後の11月17日(同)にGalacticaのデモの公開を中止した。Webサ

    メタのGalactica炎上事件、原因となった「AIの幻覚(ハルシネーション)」とは
    yoneyore
    yoneyore 2023/01/02
    概念上では当然認知はしていたが、ハルシネーションという用語が定義されているのは、初めて知った。