詐欺師がディープフェイクを使用して顧客の本人確認を回避する方法
人類が生成AI関連の技術開発などに投資した数千億ドルをどう回収するか、その方法を見つけ出そうとしている一方で、サイバー犯罪者は、既にこの技術を積極的に利用しています。例えば犯罪者は、AIを使用して仮想のマネーミュール（盗んだ資金を送金するために使用するダミー口座）を作成したり、さらにはディープフェイクを使用して、金融機関が使用する顧客の本人確認（KYC）を回避しています。 KYC (Know Your Customer)とは？ KYCとは、金融機関で口座を開設したり、クレジットカードを作成する際に求められる顧客の本人確認の手続きを意味します。詐欺行為、マネーロンダリング、脱税、テロ組織への資金流入を防ぐなど、各種犯罪活動に対抗するために使用されます。 最近KYCは、完全リモートサービス、つまり顧客が金融機関の従業員と個人的に接触することなくオンラインでサインアップする時の生体認証システムを
もうフェイク映像には騙されない！偽物を見分けるプログラムが実用化 - ナゾロジー
AIの進化は目覚ましく、日常的にさまざまな場所で活用されています。 最近はディープラーニングという、大量のデータから機械が特徴を見出す技術が発展し、機械が人間のように認知や区別ができるようになってきました。 ディープラーニングを活用し、まるで人間と話しているように自然に会話ができたり、お題に合ったイラストを描いたりできるソフトウェアも誕生しています。 以前はAIを使いこなすのは大学での研究が主でしたが、技術の発展により実用化が進み、知識が無い人もAI利用するようになっています。 新しい技術の発展が、より便利なサービスを生み出し、今までよりも新しく暮らしやすい世の中になっていくかもしれません。 しかし、AIの技術発展は人間にとってプラスになるだけではありません。 AIから作られた人工的な画像や映像を使って、人を騙そうとする人も出てきています。 騙されないためには本物か偽物か見分ける眼力が必要
ディープフェイクの脅威にどう備えるべきか
サイバー犯罪者はディープフェイク技術を企業への攻撃に利用しています。私たちはどのように備えるべきでしょうか。 ディープフェイクとは、AI（人工知能）を使用して、画像、動画、音声などを非常にリアルに偽造する技術のことを指します。ディープフェイク技術はすでに5年ほど前から急速に発展してきました。実際のデータと生成されたデータを組み合わせて、偽物を作成するというアイデアはそれほど新しいものではありません。しかし研究者たちは、ニューラルネットワークと深層学習（ディープラーニング）を用いてプロセスを自動化し、偽の画像、動画、音声を生成することが可能になりました。 以前は、生成された偽物の品質は低く簡単に見破ることができました。しかし最近では偽物だと気づくのが極めて難しいものもあります。これは、情報の保存と処理にかかるコストの低下、オープンソースソフトウェアの出現によってさらに進化しているためです。こ
ディープフェイクの脅威の現実味
サイバー犯罪には、新しいテクノロジーがすぐに導入されます。なかでも最も憂慮すべきトレンドの一つが、ディープフェイクの増加です。これは、AI（人工知能）の助けを借りて生成された画像、音声、動画であり、少なくとも人間の目には本物にしか見えません。AI生成用ツールが広く普及し誰でも利用できるようになったため、この問題はますます複雑化しました。さらにそれらが改良され、アップデートされるたびに、AIテクノロジーはどんどん（驚くほど）精巧になっており、本物そっくりの画像や音声を作成できます。 ディープフェイクは、報復、金融詐欺、政治的操作、ハラスメントなど、さまざまな目的で使用されます。テクノロジーによって常に人と人がつながる現代社会において、詐欺師が標的とする人物の画像や動画を集めるのも簡単です。有名人ならなおさらです。 現代のサイバー犯罪者は、専門領域に特化する傾向にあります。なぜかというと、高品
画像交換技術「ディープフェイク」が大流行、検出ツール開発は後手に
このアルゴリズムを開発したディーキン大サイバーレジリエンス＆トラストセンターのチャン・ツン・リー教授は78％の確率で正しさが証明されたことについて「かなり良いパフォーマンスだ」と述べた上で、「しかし、この技術はまだ発展途上にある」と指摘。この方法が商業利用できるようになるには一段と強化する必要があると話した。 ディープフェイクは何年も前から存在し、懸念を招いていた。2019年にはペロシ米下院議長（当時）が話す様子について、ろれつが回っていないように加工された動画がソーシャルメディアのフェイスブックで拡散された。 ダウンコート姿のローマ教皇の画像は比較的害が少ない加工かもしれないが、選挙の操作など、ディープフェイクが深刻な被害を与える可能性は、技術の進歩とともに大きくなっている。 昨年、ウクライナのゼレンスキー大統領が自国兵士にロシアへの投降を呼び掛けたように見せたフェイク動画は重大な波紋を
Intelが映像内の「血流」を用いるリアルタイムディープフェイク検出器「FakeCatcher」を発表、検出精度は96％
Intelが「Responsible AI(責任あるAI)」の取り組みの一環として、ディープフェイクで作られたフェイク映像を96％の精度で検出できる「FakeCatcher」を発表しました。 Intel Introduces Real-Time Deepfake Detector https://www.intel.com/content/www/us/en/newsroom/news/intel-introduces-real-time-deepfake-detector.html As part of Intel’s Responsible #AI work, we’ve developed FakeCatcher, a new technology that detects fake videos with 96% accuracy. This detection platform
AIが生成した“偽音声”を見抜く技術 99％以上の精度で検出
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 米フロリダ大学の研究チームが発表した論文「Who Are You（I Really Wanna Know）？ Detecting Audio DeepFakes Through Vocal Tract Reconstruction」は、音声生成モデルで作成された合成音声を見抜く検出器を開発し検証した研究報告だ。音声から声の通り道「声道」を作成して、その声道から人の音声か偽物の音声かを識別する。精度は99％以上だという。 人の声をまねた合成音声はロボットっぽい音で出力されていたが、近年では機械学習モデルの進歩により、合成音声の品質は劇的に向上して人間っぽい音で出力されるようになってきた。人間
AIの生成した顔は本物の顔と区別がつかず本物の顔より信頼性が高い
人間に似せたものを作ったとき、ある程度の再現度までは好感度を高める効果がありますが、一定以上に似ると嫌悪感が一気に高まります。これは「不気味の谷現象」と呼ばれる、脳の働きによるものです。 ところが最新の研究によると、人工知能(AI)は「不気味の谷」を突破して、むしろ「AIが生成した顔の方が信頼できる」と感じるほどの顔を生成できるようになっているそうです。 AI-synthesized faces are indistinguishable from real faces and more trustworthy | PNAS https://doi.org/10.1073/pnas.2120481119 Humans Find AI-Generated Faces More Trustworthy Than the Real Thing - Scientific American http
｢完璧なディープフェイクが量産されたら、人々はそれを区別できない｣専門家が警告
中国の顔交換アプリZAOで｢ゲーム・オブ・スローンズ｣の登場人物にユーザーの顔を貼り付けたもの。 Twitter/@AllanXia フェイスブック、ツイッター、TikTokは最近、新しい形態のフェイクが勢いを増していることに対抗して、プラットフォーム上での｢ディープフェイク｣映像を取り締まる計画を発表した。 F5NetworksのAI担当責任者シューマン・ゴセマジャンダー氏は、現在のところ、ディープフェイクは依然として不自然なものであり、｢ハリウッドのレベル｣に至るには相当の労力を必要とする、と語っている。 しかし、｢完全に現実と同じ｣ディープフェイクが現れるのはそれほど先のことではなく、それに脳が慣れると｢純粋に誤った情報｣が新しい現実になると彼は言う。 すでに存在する膨大な量のフェイクニュースは、ディープフェイクが大規模に作成しやすくなるにつれて何が起こるかを示している。 ここ数週間
Alphabet傘下のJigsaw、ディープフェイク検出ツール「Assembler」を開発
Alphabet傘下のJigsawは、写真が本物か細工されたものかを判断するのに役立つ実験的ツール「Assembler」を開発した。ディープフェイクをはじめとする情報を操作して真実を歪めようとする試みに、ジャーナリストやファクトチェック担当者が対抗するのを支援する取り組みだ。Assemblerは多数のテストで構成され、写真の一部をほかの写真に貼り付けたり、明るさを編集したり、背景から領域を削除したりした痕跡を検出する。 Jigsawは、情報工作、ハラスメント、検閲、暴力的な過激思想、選挙工作といった諸問題のデジタル面に対処する目的で、Alphabetがエンジニア、デザイナー、研究者、ポリシー専門家などを集めたチームだ。 人工知能（AI）の深層学習で作ったディープフェイクと呼ばれる写真や動画を含むオンライン上の情報操作については、新たなツールによってそうした偽造が容易になる中、懸念が高まって
セキュリティアナリストのつぶやき
2022.03.09 Azure AD導入環境に対するペネトレーションテストの資格「Certified Az Red Te...
米フェイスブック、サイトから「ディープフェイク」を削除 | AMP[アンプ] - ビジネスインスピレーションメディア
米フェイスブックは2020年1月6日、人工知能やディープラーニング技術を使用して作成された偽造動画「ディープフェイク」を同社のサイトから削除する方針を発表した。 アップロードされた写真や動画は、世界50以上のパートナーによる審査が行われ、削除基準を満たした場合、ニュースフィードでの配信が大幅に減り、広告として出稿されている場合は掲載が拒否されるという。また、これらを見たり、共有する場合はユーザーに警告が表示される仕組みになるという。 なお、パロディまたは風刺的なコンテンツ、または単語の順序を省略または変更するためだけに編集された動画には適用されないとしている。 同社は、昨年9月、Deep Fake Detection Challengeを開始。このプロジェクトは、1,000万ドルの助成金により支援され、コーネルテック、カリフォルニア大学バークレー校、MIT、WITNESS、マイクロソフト、
![米フェイスブック、サイトから「ディープフェイク」を削除 | AMP[アンプ] - ビジネスインスピレーションメディア](https://cdn-ak-scissors.b.st-hatena.com/image/square/1c13dfeb98fbdfca1da8b80e34937662174797b3/height=288;version=1;width=512/https%3A%2F%2Fampmedia.jp%2Fwp-content%2Fuploads%2F2020%2F01%2Fshutterstock_680847808.jpg)
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【セキュリティ ニュース】ビデオ通話の「ディープフェイク」見破る検出ツールのベータ版（1ページ目 / 全1ページ）：Security NEXT
ディープフェイク真贋判定の国産技術 実サービスに導入 国内初 | ScanNetSecurity