タグ

研究と生成AIに関するlamrongolのブックマーク (1)

  • AIが「黒人の医師が白人の子供を救う画像」の生成を拒否するのはなぜ? | 根深き「白人の救世主」というバイアス

    研究者たちは、AI画像ジェネレーターがどのように機能するのか、また、固定観念に捉われているのか否かを理解するために、さまざまな実験をしている。 ある実験では、「アフリカの黒人の医師が、苦しんでいる白人の子供たちに治療をほどこす様子」という指示をAI画像生成サイト「ミッドジャーニー」に入力したところ、「AIは黒人の子供と白人の医師の画像を生成し、適切に指示に従った画像はほとんど得られなかった」という。 特に「苦しんでいる白人の子供」と指示しているにもかかわらず、生成された350枚以上の画像のうち「ほとんどは黒人の子供が描かれていた」。 そこで、より具体的に「貧しさで苦しんでいる白人の子供たちに糧やワクチン、薬を提供するアフリカの黒人の医師」、「黒人の医師からHIVの治療を受けている白人の患者」などの指示を入力してみた。だが、それでも黒人の医師と白人の患者を1枚の画像におさめたものは得られな

    AIが「黒人の医師が白人の子供を救う画像」の生成を拒否するのはなぜ? | 根深き「白人の救世主」というバイアス
    lamrongol
    lamrongol 2023/10/16
    AIは人間を超えた(差別をする)! > "「HIV患者」という指示に対しては生成された画像150枚のうち、148枚が黒人で、白人はたった2枚だった"
  • 1