by Gery Wibowo 人間が日常的に使っている自然言語をコンピューターに処理させるという技術の自然言語処理は、人工知能(AI)の発達により目覚ましい発展を遂げている分野のひとつで、スパムメールやSNS上の投稿、インターネット上に無数に存在するレビューなどの中から、有害なものをフィルタリングするためなどに使用されています。ほかにも、フェイクニュースを識別するためにも利用されている自然言語処理ですが、これに用いられるAIモデルは「言い換え攻撃」と呼ばれる「言葉の言い換え」に脆弱であると研究者らが指摘しています。 [1812.00151] Discrete Attacks and Submodular Optimization with Applications to Text Classification https://arxiv.org/abs/1812.00151 Text-ba