Convolutional Neural Networkに対する攻撃手法 -誤分類の誘発- | 技術者ブログ | 三井物産セキュアディレクション株式会社

機械学習で画像分類と言えばConvolutional Neural Network（以下、CNN）と言われるくらいCNNは物体認識に広く使われており、Googleの画像検索やFacebookの顔認識、また、自動運転自動車などで実用されています。 本記事では、このCNNへの入力画像を人間の目には分からないくらいに微妙に細工することで、CNNの画像分類を誤らせる攻撃手法を紹介します。 なお、本記事の元ネタは、Samsung Research AmericaのNina Narodytska氏とShiva Prasad Kasiviswanathan氏がarXivにポストした論文「Simple Black-Box Adversarial Perturbations for Deep Networks」です。興味のある方は一読することをおススメします。 Figure 1は、論文から抜粋したCNNによ

[mainyaa]

手法では白と黒だけど、黒だけで行けそう。1pxだと簡単に見えるけど、対象は32pxだから情報としては重い。隣の画素との明度差的に、画像全体のなかで、白pxを探してその隣に黒px置くのを優先探索すると効率上がりそう