このランダムノイズのような画像を、手書きの数字(0~9)を99.8%の精度で認識できる人工知能(この場合はディープニューラルネット)に入力すると、なんと人工知能はほぼ100%の自信度で「1」と判別してしまう。 この画像は、特定のニューラルネットを「だます」目的で、AI技術開発のカラフル・ボードが作成したものだ。学習済みのニューラルネットに画像を入力し、その出力結果が「1」に近づくよう、画像に繰り返しフィードバックを与えたものである。 同社CEOの渡辺祐樹氏は「なぜニューラルネットがこのランダムな画像を『1』と認識するのか、ニューラルネットの挙動から解析することは困難」と語る。一般的なプログラムコードと異なり、ニューラルネットは大量のパラメータから構成され、人間にとって可読性の低いブラックボックスだからだ。 人工知能の判断誤りが事故を生む 人工知能は、往々にしてだまされ、勘違いし、間違った判
![AIは勘違いする―テスラとトヨタにみる自動運転カー戦略の違い](https://cdn-ak-scissors.b.st-hatena.com/image/square/89c918a4b1a962182a8055d09c681a92d3ac7efe/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fit%2Fatcl%2Fcolumn%2F14%2F090100053%2F071300170%2Fmiddle.jpg%3F20220512)