こんにちは。 R&D Divisionの山本です。 最近のAIは当たり前にモノを識別しますよね。賢いAIに車の写真を渡したら、ちゃんと「車」だと識別しますし、写ってる人物が誰なのかを識別することだってできます。 ただ、なぜ「車」や「人」だと判断したのかは中々わかりません。誤った認識(例えば、人が写っていない画像を、人が写っていると判断)をしていた場合、なぜ間違ったのか気になると思います。 なので、今回はAIが画像のどこに着目して、判断をしているかを見ていこうと思います。 今回はAzure Maschine Learning Serviceに付随するJupyter Notebook上でAIがどこに着目しているのかを確認していきます。確認にはLIMEという手法を用います。 ※LIMEについてLIMEを利用したモデル解釈の記事で解説しています まずはノートブックの管理画面まで移動し、 新しいフォ
![画像認識AIはどの箇所に着目して判断をするのか | cloud.config Tech Blog](https://cdn-ak-scissors.b.st-hatena.com/image/square/61e5ce385b5fdf28fb63bcf9d6c7dfa0bf957da2/height=288;version=1;width=512/https%3A%2F%2Fprtechblogfd-crhzb5g6hkhqafdm.z01.azurefd.net%2Fdrupalimages%2F2022%2F11%2F11%2Feyecatch%2F2020-03-19-image-recognition-ai-focus-points-000.jpg)