何故予測が当たるだけではマズいのか、因果と機械学習

KDD2018の感想です。AdKDDやネット広告方面は職場のBlogに書くので、こちらは他の話を。今年は因果推論のチュートリアルが超満員だったり、予測モデルの差別、解釈性と説明性「interpretable and explainable machine learning models」が注目されたりと単に予測するのでは無く運用課題の話が増えたのが印象に残っています。 リスク予測とインセンティブデザイン 上の写真はDavid Hand氏による講演「Data Science for Financial Applications」の一場面です。自動車保険の保険料が女性に比べて男性が高い事に抵抗して行政上の性別を変更した男性*3の例が紹介されています (NEW YORK POSTの記事)。 事故を起す確率が高いと予測された顧客に高い保険料を課すのは自然なアイデアです。しかし事故発生確率と因果があ

[zu2]

“医療系では医師が予測モデルの出力を理解できるよう、説明性・解釈性が重要とよく説明されますが、そもそもメカニズム不明の疾病であれば相関を使って低コストで予測できる事に十分な意義がある”

[mohri]

「Knowledge Discovery and Data Mining」なのね。「国際電信電話」だとおもってしまった昭和脳

[tinsep19]

説明性/解釈性の要/不要の話はそのときの因果関係の知識と密接に関連するのかぁ。

[filinion]

AIの判断に対して「顧客が納得できるようなもっともらしい説明をひねり出すAI」って需要がありそうで怖いんだよな…。「あなたが黒人だから金を貸さないんじゃないんです、他にこういう理由が…」という。

[hagino_3000]

アドテク以外でKDDの感想を書いた

[houyhnhm]

因果関係に踏み込むと結構悩ましい。

[ROYGB]

「おカバさま」

[otihateten3510]

“予測モデルの出力が何に使われるのか、その値が誰にどんな影響を与えるのか。予測が当たれば良いのか、因果関係が必要なのか”

[nv-h]

この辺りもやもやしてたので分かりやすく説明してあってありがたい！

[nisisinjuku]

相関関係と因果関係両方が抑えられると確かに安心できる。

[rgfx]

「製造業では不具合の根本対策が求められるため、異常を検知できるだけの予測屋では不十分だと聞いた事があります。そういった現場ではモデルのinterpretabilityとセットでcausalがより求められるでしょう。」