BlackBox モデルの説明性・解釈性技術の実装ブラックボックスからXAI (説明可能なAI) へ - LIME (Local Interpretable Model-agnostic Explanat...
シャプレー値という貢献度の測り方 - 3日で学ぶ交渉術！ゲーム理論入門
まずは、何もない状態からAが事業を始める。そこで5億円の利益が出る。何もない状態にAが加わることで、0円→5億円に利益が増えた。ここでのAの貢献分は5億円だ。 次に、BがやってきてAと合併した。今度は55億円の利益が出る。Aだけの状態にBが加わることで、55-5＝50億円も利益が増えている。ここでのBの貢献分は50億円だ。 最後にCが合併した。すると、120億円の利益が出る。55億円だった利益が、Cが加わることで120億円まで増える。ここでのCの貢献分は120-55=65億円だ。 このように、A→B→Cという順番で合併した時は、それぞれの貢献度はA：5億円、B：50億円、C:65億円となるわけだ。「私のおかげでこれだけ利益が増えたよね」という数字だ。 しかし、これは合併する順番で数字が変わってしまう。そこで、すべての順番で貢献度を求める。そして、その平均を取ることで、同時に合併した時の貢献
SHAPでモデルの予測結果を説明する | CCT-recruit
こんにちは、エンジニアのtetsuです。 どうしてモデルがこのような予測をしたのか、ということを説明することの重要性は近年ますます高まっているように思えます。これには予測結果の解釈をおこなうことで様々な知見を得たいという要求や、ブラックボックスのモデルは信用しづらいというのが理由に挙げられます。 線形回帰や決定木といったモデルは予測結果に対する解釈をすることができますが、単純で表現力が乏しいです。一方でディープラーニングや決定木のアンサンブル学習などの複雑なモデルは表現力が高いですが、人間が解釈しようとするのは困難です。 このような問題を解決するために近年は様々な手法が提案されています。今回はそれらの中の1つであるSHAP（SHapley Additive exPlanations)について簡単にご紹介します。SHAPは日本語だと「シャプ」のような発音のようです。 なお、SHAPについては
機械学習モデルの局所的な解釈（LIMEとSHAP） - どこから見てもメンダコ
有名な機械学習モデル解釈ツールであるLIMEとSHAPを試します。 はじめに 最近、機械学習モデルの解釈可能性についての非常に良い書籍を読みました。 ※下記リンク先で全文公開されていますのでぜひ読んでみてください。 とくに気に入ったのが、"2.1 Importance of Interpretability（解釈可能性の重要性）"において、機械学習に解釈性が求められるのは「AIの社会的責任が高まっているから」とか言わずに、「予測できない事象に対する人間の知的好奇心は抑えられるものではないから」と述べている点です。 christophm.github.io 医療のようなリスクの大きい分野ではAIに解釈可能性を求めるのは当然の流れです。しかし、たとえ低リスクな分野における機械学習の導入であっても、クライアントの現場担当者は説明可能性を求めるものです。なぜならば知的好奇心は人間の本質的欲求であり
続・機械学習モデルを解釈する方法 SHAP value - 子供の落書き帳 Renaissance
前回の話 kaggleの中に、Machine Learning for Insights Challengeという4日間の講座がある。 後半2日間はSHAP valueが題材だったので、SHAP valueについてまとめる。 Machine Learning for Insights Challengeの内容、前半2日間の内容については前回のエントリを参照。 linus-mk.hatenablog.com ちなみに今気づいたのだが、この4日間講座はkaggle Learnの講座一覧の中に加わっている。以下のサイトから各日の講義や演習問題に行ける。 Machine Learning Explainability | Kaggle ……って、タイトルに『Explainability（説明可能性）』って書いてあるじゃん! やっぱり解釈可能性の話じゃん！ 最初の講座のときはExplainabili
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
