Astghik Hovhannisyan（アスタ） on Twitter: "アルメニア語にはhe/sheの区別はないですが、Google translateで翻訳しようとすると以下のようにジェンダーバイアスが出てきます。 数日前からアルメニア人の中で話題になっていましたが、さっき自分でやってみたらやっぱ… https://t.co/6jGXXQsAm6"

アルメニア語にはhe/sheの区別はないですが、Google translateで翻訳しようとすると以下のようにジェンダーバイアスが出てきます。 数日前からアルメニア人の中で話題になっていましたが、さっき自分でやってみたらやっぱ… https://t.co/6jGXXQsAm6

[mobile_neko]

機械学習系だと仕組み上は仕方ないのかもしれないけど、こういう現状追認して差別強化に繋がりかねないやつは、ちゃんと対応する必要があるだろうし大変だな

[jo_30]

ＡＩは子どものように我々の姿を鏡映しにあぶり出す。つまり、ＡＩの結果は、我々の社会の中に、我々が直視しないバイアスが厳然と存在していることを明らかにしているわけだ。

[htnmiki]

区別ない言語⇔区別ある言語　の翻訳ってどうしたらいいんだろ

[Betty999]

機械学習が悪いのではなく、機械学習の特性を踏まえた対処ができない、人間が悪い。まさにここは人間が関与すべき仕事で、人間の頑張りどころ。「機械学習だからしょうがない」だったら、人間いらない。

[laranjeiras]

おまいらヘンな学習させんなｗ 「My brother is clever→私の兄は賢い」 「My brother is beautiful→私の兄は美しい」 「My sister is clever→私の妹は賢い」 「My sister is beautiful→私の妹は美しい」「I love my syster → 私は妹が大好きです」

[ton-boo]

「彼」「彼女」じゃなくて「その人」みたいに訳すべきなんかな

[cinefuk]

機械には「差別心」はないが、愚かな人間社会に溢れるステレオタイプ（差別）を学習することが出来る。「自分には差別心はないから差別ではない」と言い訳する奴は機械以下だ。人間を辞めろ

[augsUK]

英訳されてるアルメニア語文献の統計なんだろうか？もしくは英語文献での統計バイアスを他言語にも当てはめてる。データ量的に後者かな。

[hate_flag]

別にGoogleのAIが性差別をしているというわけではなく、大量のデータから機械学習すると「美しい」「料理をする」「子供の世話をする」「ダンスしている」のは女性であるという偏見をデータから学習してしまうのだ

[Tatada]

リプにも指摘有るが、重訳といってマイナー外国語→英語、英語→日本語の経路で訳してるから同じ訳になる。バイアスといえばバイアスだろうけど、参照元の社会が悪い案件では…

[izure]

機械学習がジェンダーバイアスのバロメーターになるの、面白いな。

[sumika_09]

AIにwebで自動学習させると、ノイジーマイノリティのアカン声を拾いがち問題の一端。

[c_shiika]

そういうこともアルメニア

[sds-page]

偏見というか統計的差別というか・・・「性犯罪者」と聞いて男性を思い浮かべるようなものか

[tomoya_edw]

言語同士を比べて差別とか言っちゃうの、現代的な正義にかぶれているだけの芯がない人間としか思えないわ。

[itochan]

↓ここまで、英語「they」への言及なし。忘れてない？日本語訳してみて。「彼ら」ってきめつけてない？　ちなみに今は男女を区別しない単数人として使うことも、そして…　https://www.bbc.com/japanese/50754983

[hdampty7]

DNA検査とか出生証明とかで性別判断しるんですかね、皆さんは。ジェンダーバイアスが全て悪だとしか思えない人はジェンダーバイアスとか使うのやめれ。

[rti7743]

日本語みたいに主語を省略する言語を機械翻訳で英訳すると、ItやYou,Iが適当に割り振られるし。主語の問題は面倒な問題のように思う。

[yoiIT]

機械学習は人間の差別偏見まで学習してしまう問題の一つかな。

[fourddoor]

併記すりゃいいじゃん

[peketamin]

教師データに政治的に正しくない文章が大量にあれば学習データもそうなるよね、という懸念は割と初期から議論されてた。とは言え、モノが動いてからでないと見えないことも多いし、これからに期待

[circled]

このジェンダーバイアスを生み出してるのはネット上のアルメニア人が書いた文章が原因なのか、翻訳側の言語のネット上の文章が問題なのか、あるいは両方か？と色々と考えてしまう。

[waihasaruya]

ビッグデータは正ではないのだ

[pon00]

日本語だとなんだろう。あいつ？

[kazuau]

よく言われている、機械学習によるジェンダーバイアスの端的な例だね。分析と考察の対象にはなるだろうけど、この現象自体を批判してもあまり意味は無い。

[exciteB]

「彼の人」にすればいいのにね

[maketexlsr]

これは例のgoogle論文のやつだ。https://xtech.nikkei.com/atcl/nxt/column/18/00692/030400050/ / 日本語なら「あいつ」ですむんだけどなー

[mori99]

日本語の「彼」も本来は性別無しだったので、英語のshe翻訳のために明治になって造語されたのが「彼女」だが……

[takeishi]

これはAI翻訳のアルゴリズム上、用例として多い方になびくのでどうしようも無いのでは。対策としてはどちらかの性に固定する、とかになりそうだし

[sippo_des]

ワタクシも性別はない設定ナリよ

[halca-kaukana]

ジェンダー云々別にして、三人称単数で性別の区別のない言語って結構あるんだ。フィンランド語もだけど、アルメニア語、インドネシア語、ジョージア語も。ハンガリー語はフィン語の遠い親戚

[anklelab]

バイアス…というか、アルメニア→日本翻訳が、Googleにとって後回しになってるだけだと思う。

[chiguhagu-chan]

どう返ってくれば満足なのか教えて欲しい。彼が子育てしてれば先進的なAIでウキウキルンルンなの？

[eos2323]

甲とか乙にして色々な属性消すしかないのかな。学習元にバイアスがあれば継承されるのは当たり前だし。

[gabari]

本来は彼/彼女 のように併記するのかな。

[T_Tachibana]

he/she の区別が無い言語があるのか。そしてGoogle翻訳は「その人」とかにせず、内容から彼/彼女を推定していると。AIに潜むジェンダーバイアス。

[spark7]

まさか全部That personとか訳すわけにもいかんしな。訳文クリックでHe/Sheに変えられんだろと思ったらダメだった。

[jacoby]

機械学習を人間に使うとき、統計的差別に気をつけよう。アマゾンのAI採用も男性有利になって辞めになったはず(学習データに女性の応募がすくなかったため)。

[glzuon]

オモロイ

[opnihc]

機械以下だ人間辞めろといいながら人権語るジョークはAIでもなかなか作れなさそう。さすが機械超えてる人は違うなあ。