AIプロジェクトにおける説明可能性の方針 - techtekt

こんにちは。デジタルテクノロジー統括部でアナリストをしているY・Nです。 パーソルキャリアのデジタルテクノロジー統括部は、一般社団法人データサイエンティスト協会が定める「データサイエンティストに求められるスキルセット」を基に、以下の3つのグループが組織されています。 ビジネスグループ アナリティクスグループ エンジニアグループ 出典：データサイエンティスト協会 これらの3グループが互いに連携しあい、AI（ここでは機械学習による予測モデルを指すことにします）によって様々な業務を自動化させたり、意思決定の補助に利用させるプロジェクトに取り組んでいます。 その際、「AIの判断根拠をどの程度（どの様に）見せれば良いか」ということが常にビジネスグループで議題に上がります。殊にAIの予測結果を人間（特に営業部門の人）が見た上で意思決定の補助として利用する場合に顕著で、判断根拠が表示されないブラックボッ

[xlc]

AIが「力技の探索処理」だった頃「AIはパターン認識が苦手」と言われていた。人間でいうと「経験と勘」の部分。これが機械学習でできるようになった代わりに経験と勘なので説明できなくなったということと理解してる

[maninthemiddle]

人間の勘や経験に基づく判断も、逐一細部まで言語で説明できるかと言うとたぶんそうでもないよね。大雑把に後付けの理屈をつけることはできるけど。

[napsucks]

これまでAIはあれが苦手これがダメといっておきながら、いざ進歩しててめーが理解できなくなったら手のひら返して説明しろとは人間わがままな話だよな。もうAIの判断＝神のご託宣だと思って崇めとけよ。

[maketexlsr]

非常に勉強になる。ありがたい。けど、この記事で何を広告しようとしたのか謎

[quick_past]

哲学は意味がない。と思ってる人たちはちゃんと読むべき記事。哲学がなければ科学もない。

[wktk_msum]

解釈性

[cruller]

ふんふん

[mysql8]

説明しなくていいから納得可能性を日本では高めるべき

[mole-studio]

説明が説明になってるかについては難しいな…

[htnmiki]

プロジェクトAじゃないんかーい

[kei_1010]

完璧に理解した

[currypurin]

結論には同意する。説明可能性もう少し勉強したい。

[ysync]

人間だって経験則による違和感なんて言葉で説明できないわけでな。

[urandom]

結論部分にはあんまり同意できないなあ。説明可能性・透明性がホットなトピックになっている理由は、"営業部門の人"の"反応"なんかではなく、規範（e.g. 差別）との適合性を検証するために必要だからだと理解している。

[itochan]

テキストのはAIの結果を人間が説明すればいいんじゃないかな。AIを使える素人はそういう仕事の受注はできないでしょ。

[hobbiel55]

「人間の内部の判断根拠に相当する“何か”がモデルの内部にも存在するはずです。」←その「何か」は人間なら「勘」と呼ばれるのかな。

[phain]

“ 人間がルールを一々定義せずともうまく判断出来ているように、もしモデルが十分に精度良く、汎化されていて、頑強ならば、人間の内部の判断根拠に相当する“何か”がモデルの内部にも存在するはずです。”