機械学習モデルの学習データを推論する方法 | 技術者ブログ | 三井物産セキュアディレクション株式会社
近年、機械学習を使用した医療診断技術や顔認識・音声認識技術などが登場しており、患者のレントゲン写真から病気の種類を予想するシステムや、顔認証を行うシステムなどに利用されています。その一方で、システムが学習したデータを特定する攻撃手法も盛んに研究されており、データ・プライバシー侵害の懸念も広がっています。特に、システムの挙動から学習データを推論する「メンバーシップ推論攻撃（Membership Inference Attacks）」は数年前から多くの検証が行われており、現実的な脅威になる可能性が高まっています。 メンバーシップ推論攻撃は、攻撃対象の分類器（以下、標的分類器）に正常な入力データを与え、標的分類器から応答された分類結果を観察することで、入力したデータが分類器の学習データに含まれているか否か（=メンバーシップか否か）を推論します。仮に、近年プライバシーや自由の侵害などを理由に反対意
DeepFake（ディープフェイク） -動画編- | 技術者ブログ | 三井物産セキュアディレクション株式会社
最近、DeepFake（ディープフェイク）という言葉がしばしばメディアでも取り上げられていますが、その仕組みや対策をご存じでない方も多いのではないでしょうか。そこで本ブログでは、DeepFakeの仕組みと対策を「動画編」と「音声編」の2回に分けて解説することにします。 今回は「動画編」と題し、DeepFakeを使用したフェイク動画の仕組みと、これを見破る方法について解説いたします。 1. DeepFake? DeepFakeとは、動画に写っている人物（オリジナル）の顔に他人の顔（ターゲット）をマッピングする技術の総称であり、オリジナルとターゲットの顔の特徴をDeep Learningで学習することで実現します。この技術を使用することで、ターゲットが一切写っていない動画の中に、あたかもターゲットが存在するかのようなフェイク動画を作成することが可能となります。 以下は、今回の検証で作成したフェ
Black Hat USA 2018 & DEF CON 26! の登壇 | MBSD Blog
筆者は同僚と共に、2018年8月6日（月）から12日（日）にかけて米国・ラスベガスで開催されたBlack Hat USA 2018およびDEF CON 26の下記3イベントに、セキュリティテストツールDeep ExploitとGyoiThonのプレゼンターとして参加してきました。 Black Hat USA 2018 Arsenal DEF CON 26! AI Village Exhibit DEF CON 26! Demo Labs 本Blogでは、筆者らが出展したツールの概要、そして、今後同イベントへの参加を検討している読者の参考になるよう、出展時の様子や工夫した点などを紹介します。 なお、同僚が書いた「Black Hat参加Blog」は以下から参照できます。 これらのBlogはBlack Hat開催期間中に現地で書き上げられたものですので、同イベントに参加しなかった方にもライブ感が
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
