技術と差別に関するBUNTENのブックマーク (7)

  • 自閉症の女性が研究するAI「不平等を再生産しないように」 - 発達障害ニュースのたーとるうぃず

    想像してみてください。 ビデオゲームの最難度モードで人生を生きることを。 障害を持つ博士課程のナバ・リズビが障害と共に生きることをそう説明します。 「2020年に米トレド大学を卒業したとき、私は過度な努力からひどく疲れ果てていました。 私の医者は、私の障害が情報の記憶と処理に影響を与えるにもかかわらず、私がほぼ完璧な成績で卒業したことに驚いていました」 自閉症の女性の初めての大学生として、彼女にはさらなる困難が立ちはだかっていました。 学部時代、リズビは自分が社会的に孤立していることに直面したことを思い出しています。 自閉症の人たちを社交スキルが欠けている人たちと捉え、自閉症の人たちの独特なコミュニケーション傾向を社会的なスキルの欠如として見なす、広まった考えがその原因だと考えています。 リズビはこれらの誤解が現代のコンピューターサイエンスの研究を形作ったと言います。 米カリフォルニア大学

    自閉症の女性が研究するAI「不平等を再生産しないように」 - 発達障害ニュースのたーとるうぃず
    BUNTEN
    BUNTEN 2023/11/06
    いや、肌の色とかで明らかな差別をするAIとかが、既に問題化しただろう?
  • 主張/EUのAI規制案/人権守る厳格な制度 日本でも

    欧州連合(EU)の執行機関、欧州委員会が人工知能(AI)の利用ルールを定める規制案を発表しました。国・地域として初めての包括的法的枠組みづくりです。人権を侵害するリスクのある使い方を幅広く規制し、警察の顔認証捜査は原則禁止とします。AIは今後、仕事や生活のあらゆる分野に活用が広がるとみられます。その一方、権力による市民監視や「スコアリング」(個人データにもとづく個人の格付け)への利用が懸念されています。日でも検討すべき重要課題です。 公共での顔認証捜査禁止 EUは、個人情報保護を抜的に強めた「一般データ保護規則」(GDPR)の制定をはじめ、社会のデジタル化に伴って人権を守る法制度の整備を進めています。AI規制案もその一環です。 禁止事項の一つが、警察その他の公的機関が公共の場で市民をカメラで監視し顔認証など生体認証システムで個人を識別する行為です。行方不明となった子どもの捜索のような、

    BUNTEN
    BUNTEN 2021/05/02
    AIに流し込むデータによっては差別的でろくでもない結論しか出さないシロモノが出来上がることがわかっているのだから厳格な規制は必要で、日本の路線は論外。
  • 「ブラックリスト」「マスター/スレイブ」というプログラミング用語が「人種差別的」として言い換えられつつある

    「ブラック・ライヴズ・マター(BLM)」を合い言葉に黒人差別への抗議を訴える運動が2020年5月から急速に広がっています。その中で、プログラミングの世界で使われている「マスター/スレイブ」や「ブラックリスト/ホワイトリスト」などの言葉が言い換えられ始めていることが報じられています。 GitHub to replace "master" with alternative term to avoid slavery references | ZDNet https://www.zdnet.com/article/github-to-replace-master-with-alternative-term-to-avoid-slavery-references/ 特定のユーザーや言葉を拒否する「ブラックリスト」、そして逆に許可するユーザーや言葉をまとめた「ホワイトリスト」という言葉が人種差別的だ

    「ブラックリスト」「マスター/スレイブ」というプログラミング用語が「人種差別的」として言い換えられつつある
    BUNTEN
    BUNTEN 2020/06/15
    「マスター/スレイブ」カタカナだからインパクトが低められているだけで、主人と奴隷とかは、正気だと使いづらい用語ではある。
  • 「売れなかった」ハムサンド、カメラ50台で真相解明 高輪GW駅「無人決済コンビニ」の実力

    「売れなかった」ハムサンド、カメラ50台で真相解明 高輪GW駅「無人決済コンビニ」の実力:開業から3カ月、成果は(1/3 ページ) 2020年3月14日に開業したJR山手線・京浜東北線の高輪ゲートウェイ駅。山手線の新駅としては約50年ぶりとなるだけに注目度は高く、開業初日には多くの観光客も訪れた。その一角で、注目を集めている店舗がある。AI人工知能技術を活用した無人コンビニ店舗「TOUCH TO GO」だ。有人レジはなく、来店客は店内で商品を手に取り、出口付近で「Suica」などを読み取り機にかざすだけで買い物を済ませられる。 こうした無人決済店舗は、米国では「Amazon Go」をはじめ実用化された例があるが、日では長らく実験段階にとどまっていた。そうした中、TOUCH TO GOは国内では珍しい実用化事例として小売・流通業界はもちろん、他業界からも高い注目を集めている。無人もしく

    「売れなかった」ハムサンド、カメラ50台で真相解明 高輪GW駅「無人決済コンビニ」の実力
    BUNTEN
    BUNTEN 2020/06/09
    そのうち、こういう風体の奴はろくに買わないのに長時間居るから入口でシャットアウトという未来がやってくる。(Y/y)
  • なぜ日本は偏差値が嫌いなのに使い続けるのか 考案した元・中学教員が語った“生徒のために作った偏差値が悪者になるまで”

    前のページへ 1|2|3 昭和36年、偏差値が広まる転機 桑田氏は、偏差値を同僚たちと共有しましたが、生徒には秘密にしていました。理由の1つは当時、「人間の知能は生まれたときすでに決まっている」と広く信じられていたことです。もし生徒に自分の偏差値を教えてしまったら、それが「あなたはこの程度の知能の持ち主で、この程度の生き方しかできない人間だよ」という宣告になってしまうかもしれません。それは避けたい、というのが桑田氏の想いでした。 しかし、箝口令を敷いたわけではありませんでした。そのため、「あの中学では桑田先生が考案した画期的な方法で受験指導をしているらしい」といううわさが徐々に広まり、偏差値の存在が知られるようになります。 転機―― それも良くない転機が訪れたのは、昭和36(1961)年のことです。 それまで桑田氏は、テストのたびに偏差値を一人でコツコツと手作業で計算していました(当時はま

    なぜ日本は偏差値が嫌いなのに使い続けるのか 考案した元・中学教員が語った“生徒のために作った偏差値が悪者になるまで”
    BUNTEN
    BUNTEN 2020/03/05
    「うちのテストを使ってくれたら、代わりに偏差値を計算します」問題にされた理由はこのへんだろうな。一種の癒着に見える。▼知能指数の変動は少ないことが知られているが成績の激変はある。
  • AIプロジェクトと差別排除の原則

    2019年12月、AI研究者による差別を廻る事件が注目を浴びた。 まずその概要について、ハフィントン・ポスト紙の記事を引用しておきたい。 東京大学大学院情報学環・学際情報学府で特任准教授を務める大澤昇平さんが12月1日、Twitterで「当職による行き過ぎた言動が、皆様方にご迷惑、不快感を与えた点について、深く陳謝します」と謝罪した。 大澤さんは自身が経営する会社で「中国人は採用しません」などと人種差別と見られる投稿をTwitterで繰り返して批判を浴びていた。 彼が東京大学で担当していた「情報経済AIソリューション寄付講座」は、その名称通り寄付で運営されていたが、このツイートのような差別は許されるはずもなく、寄付元のすべての企業が寄付を停止する結果となった。 さらに彼がCEOを務めるDaisy社の提携先であるSteamr社(スイス)も、直ちに提携解消を発表している。 この一件は、産学共同

    AIプロジェクトと差別排除の原則
    BUNTEN
    BUNTEN 2020/01/13
    「ヘイトを「学習」」ヘイトが社会にあふれているか、またはヘイト者らが活発に活動しているかのいずれかまたは双方。どうやって火消しするか考えなければなるまい。
  • 国民を監視して信用スコアを格付け&ランクに応じて特権付与やブラックリスト登録を行う中国の「社会信用システム」を分かりやすくイラストで解説するとこうなる

    中国政府は全国民の社会的信用をスコア化してランク付けを行い、ランクに応じてメリットやデメリットの付与が行われる「社会信用システム」の導入を推進しています。この格付けや賞罰の付与はどのようになっているのかを図示した非常にわかりやすい(PDFファイル)インフォグラフィックが、ドイツ拠を置く独立財団のBertelsmann Stiftungにより作成・公開されています。 China's social credit system (the so colled social scoring) will go live this year https://www.linkedin.com/pulse/chinas-social-credit-system-so-colled-scoring-go-live-andrea-dusi 2014年に中国政府によって考案された社会信用システムは、所得や社会

    国民を監視して信用スコアを格付け&ランクに応じて特権付与やブラックリスト登録を行う中国の「社会信用システム」を分かりやすくイラストで解説するとこうなる
    BUNTEN
    BUNTEN 2020/01/08
    「反体制的な行動は減点対象」反体制派俺がこの手法でスコアリングされたら最低ランクまっしぐらというわけか。
  • 1