人間が深層学習のAIを理解できないのには、理由がある：朝日新聞GLOBE＋

【特集】「『予測』という名の欲望」全記事はこちらから読めます ■人間にはAIの考えが分からない？ ――ディープラーニングは、大量の「教師データ」を読み込み、入力する変数と、出力する変数との間の関係を見つけ出します。その関係が分かれば、新たなデータを入力したとき、出力が予測できるというわけですが、なぜ人間はそのプロセスを理解できないのでしょうか？ おもにふたつの要因があります。質的なものと、量的なものです。量的な問題は、すごくシンプルです。ディープラーニングの内部で動くパラメータ（母数：システムの内部で動く情報）が多すぎるので、その大量・複雑なデータを人間の直感につなげることが難しい、という話です。最近は、多いものでは1億個を超えるパラメータから出力を予測します。じゃあ、その1億個をざっと人間が見てなにか分かるのかといえば、分からない。これが基本的に起こることです。 ――大量の変数という意味

[shaphere939]

最後に有る回答者の経歴を読んだときに一番驚きました

[sho]

説明上手いなー

[JULY]

Deep Learning 自体を特徴や問題点を、非常にわかりやすく解説している。

[soratokimitonoaidani]

今泉允聡・統計数理研究所助教

[natsutan]

こういうのがさっと出るのすごい＞“たとえばディープラーニングのシステムは、内部に割り算を持っていないので、きれいな割り算ってすぐにはできなかったりするんです。”

[misshiki]

“説明可能なAI”

[KimuraShinichi]

深層学習は多数決（各ニューロンが有権者）。あまりに多くの要因があまりに複雑に絡むから理由を説明できない。その意味で「理解できない」のは人間の勘も多数決による決議も同様。AI自身にも理解できないのでは。

[ruicc]

すごい格好いい "連続性が部分的に失われているようなデータで、ディープラーニングはとてもよく機能する", "解釈しやすいモデルの組み合わせだから理解もできる"

[paravola]

事前の絞り込みができないので、ディープラーニングでは、不必要な変数やパラメータも含めた冗長なシステムをつくって運用しています。実験的には、そういうやり方をすると、予測の精度が上がることが示されています

[showii]

キャリスタフロックハートがこういう風に分解されてるんやな・・・笑

[moodyzfcd]

( 同記者による別記事 https://globe.asahi.com/article/12834551 同じく統計数理研究所の所長及び統計同所統計思考院の院長に

[qinmu]

AIのブラックボックス問題。

[BoiledEgg]

Deep LearningとかAIとか分からない人にはとりあえずこれを投げればよさそうな分かりやすい記事だ

[SasakiTakahiro]

機械しか分からない世界。

[yuki_2021]

深いな。ディープラーニングの結果が人間の認識と違いすぎるから役に立たないという事もありえるのか。

[akrtak]

わかりやすい

[guldeen]

決定に絡むファクターが多すぎるから、途中経過を外から見るだけではAIがどう判断してるのか外から分からない、という解説にナルホドと(´･ω･)▼判断基準が条文では決め辛い、といえば『わいせつ』とかもかね。

[arajin]

「統計手法が扱える規則性にはどういうものがあるか、みたいな新しい数学的な理論がつくれたらいいな、というのがひとつですね。」新しい数学の分野が出来るかも。

[y_maeyama]

何となくわかった気にしてくれた。ディープラーニングについて、わかりやすく語ってくれる人がもっと増えると助かるな。

[barringtonia]

SHAPなどの手法で実用上は問題ない程度の解釈ができることは多いので、実際に使用している人とそうでない人が考える解釈不可能性の程度が乖離しているような気も。 cf. https://orizuru.io/blog/machine-learning/shap/

[benedicta]

"いまいずみ・まさあき　2011年東京大学文学部卒。同大学大学院経済学研究科などを経て、2018年4月から統計数理研究所助教。専門は数理統計学。"

[x_musa]

サムネイル見たときメサイアかと思った

[mas-higa]

数学が難しいからやろ

[T-miura]

わかりやすい感じある