AIをダマして人の顔を別人と認識させたり、交通標識の「止まれ」を「時速45マイル制限」と誤認識させたり、さらにはスマートスピーカーに悪意あるコマンドを送り込むことも可能――。 そんな脆弱性を突いて、ハッキング(サイバー攻撃)が行われれば、大きな被害が出る可能性もある。 AIの安全性をどう守るのか。 ●AIの「目」をダマす 数年前から知られているのが、AIの画像認識における脆弱性だ。 「アドバーサリアル・エグザンプルズ(敵対的見本)」と呼ばれる、AIの画像認識を”ダマす”サイバー攻撃だ。 これは、画像にノイズデータを加えることで、人間には見分けが付かなくとも、AIにとっては全く別の画像として認識されてしまう、という弱点を突いたものだ。 この弱点を明らかにしたグーグルやニューヨーク大学などの研究チームによる2013年の論文では、「スクールバス」「携帯電話」「カマキリ」「犬」といった画像にノイズ