研究者2人を解雇したGoogle AI倫理対立の深刻度 - 日本経済新聞

米グーグルの人工知能（AI）研究部門が、AI倫理研究者の解雇を巡って大きく揺れている。同社が開発した自然言語処理技術「BERT（バート）」のような巨大な言語モデルが内包する問題点を指摘しようとした2人の女性研究者が、2020年12月と21年2月にそれぞれ解雇された問題だ。「論文の社内検閲」に端を発した騒動に見えるが、AI倫理を巡るより根深い社内対立が透けて見える。問題が明らかになったのは20年

[nuara]

女性研究者が一般的に知られる事実を指摘しただけで解雇される、という事態が、組織にバイアスが存在する事を明らかにしている。

[muchonov]

国内AI系でもゲブルとGoogle、ゲブルとルカンの対立の論点などについて皮相的に誤解してる人が散見される中、ちゃんとツボを押さえてある記事だと思った

[mohno]

「社内レビューを通らなかった」「グーグル社内でも人種的、性別的な偏りを是正するよう訴えてきた」「技術的な問題に閉じ込めようとするビッグテック側と、制度的な問題であるとする市民団体や政府による対立構造」

[augsUK]

指摘した問題点（巨大モデルによる電力消費・学習データのバイアスに基づくバイアス・ただの確率で言語理解ではない）は真っ当。その解決が人種性別に多様性のある組織でないと出来ない主張の理由は書いてなかった。

[star_123]

読む限り全うな主張だしふまえた上でどう解決するかだから解雇はどうかと思うけど実際のやりとりが解らないから何ともいえんが

[mkusunok]

研究者のダイバーシティを確保したところで学習データ自体の偏りはどうにもならない気がするんだけど。あとは結局のところ何のためのAIか、偏ってた方が儲かるから偏るってケースも多そうだし

[tksssss]

設計者のバイアスの完全な中立化とか不可能だし、やべーやつに見えてしまう

[sotokichi]

がっかりだよ、Google。

[causeless]

"@fukkyy 研究者2人を解雇したGoogle AI倫理対立の深刻度：日本経済新聞" from https://twitter.com/i/web/status/1371077439527428103

[Wafer]

久美沙織の短編集「あけめやみ　とじめやみ」にAIによってうまれつきの不可触民と判定された少女の物語がある。社会の最底辺で生きる彼女を救済する物語だが、AIの名はですてにい

[dot]

"AIのバイアスを解消するには「バイアスの無い組織、プロセスによってAIを開発する必要がある」"　コンウェイの法則ぽい話やな。

[ShimoritaKazuyo]

非常に重要な問題提起ではあると思う。でもそもそも言語ごとに人種バイアスあると思うんだけど。

[georgew]

Googleもすっかりevilになったよね。

[agrisearch]

「同社が開発した自然言語処理技術「BERT（バート）」のような巨大な言語モデルが内包する問題点を指摘しようとした2人の女性研究者が、2020年12月と21年2月にそれぞれ解雇された問題」

[ya--mada]

何とも言えない話。一見テクノロジーの話に見えて多分そうではない話に収斂される。

[gimonfu_usr]

（？）https://xtech.nikkei.com/atcl/nxt/column/18/00692/030400050/　https://wired.jp/2020/12/15/behind-paper-led-google-researchers-firing/　https://www.itmedia.co.jp/news/articles/2012/07/news090.html　"自然言語処理「BERT」"

[wackunnpapa]

“ビッグテックがAI倫理に熱心なスタンスを示すのは、AIのバイアスに関する問題は「社内で」「技術的に」解決可能だと主張することで、政府によってAIの研究開発が規制されるのを回避しようとしているからだ。”

[iinalabkojocho]

ゲブル氏らの研究は最も重要なもの。制度的なものか技術的なものか。AIの倫理は社会システム依存とも考えられる。それをGoogleは都合の悪いものとした。

[sakahashi]

“AIのバイアスは技術的な問題なのか、それとも制度的な問題なのか。この対立こそが、ゲブル氏らの解雇を巡る問題の奥底にある。”設計者のバイアスをどうやって中立化するのか。Googleも結局・・・ってなるのか。