タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。
長期インターン生の木村です。 今回、以前から興味を持っていた画像認識モデルにおける説明可能なAIのクラス活性化マッピング手法を調査してみました。 説明可能なAIとは 近年、深層学習ベースの画像認識モデルは製造業、医療、自動運転など至る場面で社会実装が進められていますが、ディープなラーニングを行っているだけに推論の判断根拠を人間が解釈できない問題があります。医療、自動運転のような命に関わる領域では安全性や公平性を担保できないために安心して導入できません。 このような問題を解決するのが「説明可能なAI(XAI)」です。 「説明可能なAI(XAI)」は、AIの推論結果を人間が解釈可能な形で出力する技術を指します。例えば、犬と猫が映っている画像を画像分類するAIが犬と推論した場合、モデルがどこを判断根拠としているかをヒートマップで可視化します。このヒートマップは、「顕著性マップ」と呼ばれます。 画
SHAPやLIMEなどの説明AI（XAI）のご紹介 / SHAP LIME PDP Grad-CAM
************************************************************* # 要約 ************************************************************* ・SHAP のアルゴリズムを説明 ・SHAPに近い手法「LIME」との比較及び考察も記載 ・SHAP 以外の手法で算出した Feature Importance との比較及び考察も記載 ・オープンソースのデータ及びコードを使ってハンズオン ┗テーブルデータ and 画像データに適用 ・SHAP 以外の画像説明モデル Grad-CAM, Guided Grad-CAM の紹介
日本一詳しくGrad-CAMとGuided Grad-CAMのソースコードを解説してみる(Keras実装) - Qiita
背景 今更ながらGrad-CAMとGuided Grad-CAMを使う機会があったので、Keras実装のメジャーっぽいリポジトリを改造して利用したのですが、結構詰まりポイントが多かったので(私だけ？)復習もかねてソースコードを解説しようと思います。 そもそもGrad-CAM, Guided Grad-CAMとは？ 簡単に言ってしまうと、CNNの判断根拠の可視化技術になります。 私は可視化については完全にビギナーなのですが、そんな私でも知ってるぐらい可視化の中ではメジャーどころなのではないでしょうか。 論文は2017に出されているので、おそらく発展手法(Grad-CAM++とか?)も沢山出ているとは思いますが、ビギナーなので情報の充実しているGrad-CAMを今回は使ってみました。 Grad-CAMの論文 見たことがあるかも知れませんがこちらがGrad-CAMとGuided Grad-CAM
3つの要点 ✔️ 特徴量マップのノイズを排除する機構を含む ✔️ 高速な顕著性マップの推論が可能 ✔️ いくつかの実験で計算コストが少ないにも関わらずSOTAを達成 Group-CAM: Group Score-Weighted Visual Explanations for Deep Convolutional Networks written by Qinglong Zhang, Lu Rao, Yubin Yang (Submitted on 25 Mar 2021 (v1), last revised 19 Jun 2021 (this version, v4)) Comments: Published on arxiv. Subjects: Computer Vision and Pattern Recognition (cs.CV); Artificial Intelligen
前回は、深層距離学習にGrad-CAMを適用し、可視化する手法を紹介しました。 今回は、その論文を応用し、リアルタイムでGrad-CAMを処理できる 「Faster-Grad-CAM」を開発したので紹介します。 （RaspberryPi3 modelBで実行） ※コードはこちら ※こちらはPythonデータ分析勉強会#18の発表資料です。 結論から Faster-Grad-CAMを使えば、通常のGrad-CAMより10倍以上高速化することが可能 しかも、前回ご紹介した技術を使っているため、高精度化にも成功 デモ まずは試してみたいという方は、こちらにパーとグーを見分けるデモ機を作りました。 パーのときは反応せず、グーにするとFaster-Grad-CAMが発動します。 環境 Keras 2.2.4 TensorFlow 1.9.0 sklearn 0.19.0 Opencv 3.4.3.1
今回は、だましのテクニックの話、その根本のところで「説明責任」の話があり、以下の紹介記事①にあるようなことはどうすればできるのか興味がわいたのでやってみました。 （以下は、参考記事①からの引用です） 「写真のように"犬"と"猫"を判別する分類器にGrad-CAMを適用した場合、"犬"、"猫"のそれぞれについて特徴部位がヒートマップで強調されます。"犬"の特徴部位を可視化した場合には、犬の顔がヒートマップで強調され、"猫"の特徴部位を可視化した場合には、猫の胴体の部分がヒートマップで強調されています。...そこで拡張手法であるGuided Grad-CAMを適用して高解像度の画像を出力した結果が、ヒートマップ図の右隣の画像です。犬の画像では犬の顔の特徴として垂れた耳、目、頬などが可視化されているのが見て取れます。同様に猫の特徴部位として胴体の縞模様に着目していることがわかります。」 元画像
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Grad-CAMだけじゃない画像認識におけるCAM手法を徹底解説 - ABEJA Tech Blog
【Group-CAM】Grad-CAMはもう古い？最先端のCNNにおける判断根拠手法
【可視化】リアルタイムで処理、それがFaster-Grad-CAM - Qiita
【特徴部位可視化】Grad-CAMとGuided Grad-CAMで遊んでみた♬ - Qiita
choco-late.hatenablog.com
www.itmedia.co.jp
ushio-obento.hatenablog.com
news.yahoo.co.jp
chisa.st.coresv.net
pc.watch.impress.co.jp