製造業にとってAI(人工知能)は欠かせない技術になりつつある。製品に組み込むことで高度な制御の自動化を実現して付加価値向上を図るだけでなく、製品の設計や生産のプロセスで活用する例が増えてきた。不良品を見分ける品質検査AIに取り組む企業も多い。こうした中、「信頼できるAI」という考え方への注目が高まっている。 AIはコンピューターの処理能力を用いて与えられたデータから有益な出力結果を導き出す。人による複合的な判断を代替するだけでなく、人には対応しきれない膨大な情報量を短時間で処理することも可能だ。 ただし、AIによる推定プロセスがブラックボックス化してしまうと、出力された結果の信頼性を検証するのが難しくなる(図1)。例えば、近年注目される深層学習の場合、AIによる推定理由を人が理解したり説明したりするのは難しいとされる。推定理由が分からなければ、短期的な処理能力が人より優れていても、長期にわ
![「信頼できるAI」が続々登場、推定理由を説明する2つの手法](https://cdn-ak-scissors.b.st-hatena.com/image/square/70980700486e0e5881cb7a52623c2fb4d7a5c290/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fatcl%2Fnxt%2Fmag%2Fnmc%2F18%2F00099%2F00008%2Fsns.jpg%3F20220512)