亀のフィギュアに「これは銃です」 AIに誤認識させる手法をMIT学生が開発AIによる画像認識は、今や人間と同等かそれ以上の精度まで進化している。そんなAIが、どう見ても亀のフィギュアにしか見えないものを「銃だ」と間違って認識してしまったら――。 米マサチューセッツ工科大学の学生研究チームがこのほど、ニューラルネットワークによる画像認識を“だます”3Dオブジェクトを作製する手法を開発したと発表した。この手法では、物体を見る方向を変えたり、拡大・縮小したり、カメラのノイズが乗っていたりしても安定して別の物体に誤認識させられるという。 2次元の画像を加工してAIをだます技術は以前からあったが、その画像をプリントして現実の光やノイズなどの要素が加わったり、回転したりすると正しい認識に戻ることから、現実世界で画像認識システムを使う際のリスクにはならないと考えられていた。
