タグ

ビジネスとAIに関するtikuwa_oreのブックマーク (2)

  • 「悪いやつをAIで予測する」のがなぜいけないか - yhara.jp

    「この人、家賃を滞納しそう?」AIが予測 入居審査を45分→16分に - ITmedia NEWS いやーこれはまずい。この件に限らず、「悪いやつをAIで予測する」というのはすなわち 「あなたに似た人が悪いことをしたので、あなたも悪い人と見なします」 ということだからだ。 レストランのランプ たとえばこんな例を考えてみよう。ある街でレストランが強盗に襲われる事件が相次いだ。これを防ぐため、レストランの入口に防犯カメラを設置することにした。このカメラはAIで犯罪者の顔を学習していて、「犯罪を犯しそう」な人間を検知してくれるのだ。 もちろん検知するといってもサイレンが鳴ったりするわけじゃない。あくまで「犯しそう」なだけで、まだ犯罪を犯したわけではないからね。でもキッチンに置いてある赤いランプがピカピカ光って、「要注意人物」が来たことはわかるようになっている。ああこれで安心だ。 …さて、これは

    tikuwa_ore
    tikuwa_ore 2021/06/23
    オタクを犯罪者予備軍として揶揄した事がない人だけが石を投げなさい。あるデータを元に犯罪者の是非を決める事自体が偏見で、AIの判断を云い訳に偏見を是認するのは差別そのものという理解に欠けてるのがアウト。
  • 「この人、家賃を滞納しそう?」AIが予測 入居審査を45分→16分に

    家賃保証サービスなどを提供するリース(新宿区)は、賃貸物件に申し込んだ人の属性などのデータから、家賃を滞納する可能性がどれぐらいあるかを判断するAI「滞納予測AI」を開発した。 このAIを搭載した「入居審査支援ツール」のβ版を、家賃債務保証会社10社限定で無料提供する。同ツールを使えば、紙ベースの審査では45分かかっていた入居審査を16分に短縮できるという。 滞納予測AIは、リースが保証事業を運営する中で得た1万件以上のデータを基に開発。年齢や雇用形態、年収など9項目の情報を入力するだけで、滞納発生度合いと滞納発生時期の予測を表示する。 同社が持つ、家賃保証の入居審査と家賃滞納データから20を超える特徴量を抽出し、毎週リアルタイムにデータを加えてモデルを更新。延滞を繰り返す属性の特徴量から滞納発生の予測精度は、70%を超えたという。 今回、AIの学習・情報更新を加速させて予測精度をさらに上

    「この人、家賃を滞納しそう?」AIが予測 入居審査を45分→16分に
    tikuwa_ore
    tikuwa_ore 2021/06/23
    差別促進ツールすぎて笑えない。「AIが判断するから安全で公平」なんて事は全くなく、AIの判断材料に人間が集めた資料が元になっていれば、その資料を集めた人間の偏見が凝縮されるだけ。
  • 1