チャットＧＰＴ、職業に性別偏見 宇宙飛行士は男性的、看護師は女性的 朝日新聞分析：朝日新聞デジタル

革新的な対話型ＡＩ（人工知能）として利用が広がっている「ＣｈａｔＧＰＴ」（チャットＧＰＴ）が、宇宙飛行士を男性的、看護師を女性的と捉えるなど、職業に対しジェンダーバイアスを持っていることが朝日新聞の分析でわかった。専門家は、適切な処置が取られないまま使われれば、性差による差別や偏見が再生産される恐…

[zheyang]

朝日の記事こそ「男は下駄を履かされている」「男らしさにこだわっている」「攻撃的になる」などのジェンダーバイアス満々だが、そちらは顧みずにAIの重箱の隅を突く。

[uehaj]

この20年より前から含むコーパスの結果がそのまま出てきてしまっている。人類が偏見を持ってきた履歴を持つ以上、それに学んだAIに偏見があるのが中立。偏見を正すためのバイアス人工知能を作り込む必要がある

[quick_past]

学習元に影響されるので。AIが見せてるのは社会の縮図ですよ。美女ばっかしか作らない人々とかもそうだし

[ho4416]

AIを分析する暇があるなら自分の会社の役員構成の偏りにでもツッコミでも入れたらいいのに

[hate_flag]

AIは既存の文章や画像をもとに学習するので人間の偏見も学習する。「成功者」の絵を描かせるとスーツを着た白人男性の絵を描くし、「テロリスト」はアラブ系男性になる。偏見や差別を増幅させないための仕組みが必要

[usi4444]

ｱｻﾋｶﾞｰが湧いているが、ACが同じテーマでキャンペーンしてるがな。先進的な皆様はテレビもラジオも新聞も縁がないかな？　「聞こえてきた声（全国キャンペーン）」 https://www.ad-c.or.jp/campaign/self_all/self_all_02.html

[agricola]

はてなーが朝日の記事ってだけで意味のわからんダル絡みするようなものですね。完全に理解した（嘲笑

[Aion_0913]

今のAIは今までの人間のコピーに過ぎないからね…。

[fatpapa]

有料部分を読んでいないが「人間が捉えがちな」であれば正しいやろ。ChatGPTが偏見を持ってる＝人類が偏見を持ってるというだけでは？宇宙飛行士は男性に向いてる、看護師は女性であるべきと回答してるの？

[avictors]

公正に標本を選んでも、母集団から恣意的で不正な言論が支配的な場合もある。でも、ソフトボール選手を女性的と思い込んで答えてくるより、最頻値が映ると思って覗く鏡の中が修正済映像と入れ変えられてる方が怖い。

[taruhachi]

これを規制すると確かに世論誘導、洗脳はできるようになるだろうが、同時に何らかの意思によりマイルドに洗脳されていくめちゃくちゃ危険な社会ではあるので、現状の世界の要約として諦めるべきだと思う。

[takashi1982]

それはそれ、これはこれなんだが、見事に朝日だと言う理由で難癖つけられていて気の毒である。近時のAI教育現場活用論ではあまり顧慮されていないようだから警鐘的な意味もあって良いのでは？と思うんだが。

[gomakyu]

質問の内容次第で朝日新聞社にネガティブな回答もしそうだけど…

[shimokiyo]

AIは既ににあるデータからしか答えが出せないので人間の過ちもそのまま学習するのは当たり前のこと。そんなことより朝日は自分たちの偏向についての記事を書いた方がいい。

[eroyama]

僕もeroyama大佐になろうかな

[ashigaru]

大佐って職業なのか？まぁ副首相があるからわかるけど。

[albertus]

チャットGPT のどこがいいのか、わからない。頭悪い答えしか出せないじゃないか。

[grocio]

労働者が男性的っていうバイアスあるの笑った

[urandom]

原理上ヒトのようにべき論とである論を適切に使い分けて出力するようなことはできない。各社対策を試みてはいるけどやっぱり泥臭い実装のようで何かしら文脈が加わっただけで簡単にバイパスされるのが現状。

[outalaw]

だから何。過去から学習してんだから当たり前。

[y_as]

チャットAIって主に人類が書いたテキストから学習してるらしいからね。

[erya]

全部統計的事実だし人間的で優秀じゃん

[rmntc55211]

男性的な仕事の上位に新聞記者が入ることは疑いの余地がない