画像生成AIの「高品質なプロンプト」を0.01秒で盗むサイバー攻撃 ドイツの研究機関が発表
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 ドイツの研究機関CISPA Helmholtz Center for Information Securityに所属する研究者らが発表した論文「Prompt Stealing Attacks Against Text-to-Image Generation Models」は、テキストから画像を生成するモデルで生成した画像からテキストプロンプトを盗用する攻撃を提案した研究報告である。 Stable Diffusion、DALL-E 2、Midjourneyなどのテキストから画像を生成するモデルの登場以来、プロのアーティストに頼るのではなく、プロンプトと呼
日立製作所、IoT機器などの脅威・脆弱性情報を収集分析するサービスをAIで強化
サイバーセキュリティにおける情報検索が可能な収集ツールを活用し、ハッカーやリサーチャーが利用するウェブサイトやダークウェブなど膨大なデータソースを対象に、関連する業界や製品に関する脅威・脆弱性情報を効率的に収集する。また、収集した数万件におよぶ情報の中から、利用者に関連する情報を独自AIによって選別する。 過去のサイバー攻撃事例における業界特有の攻撃パターンや影響などを学習させたAIモデルにより、収集した情報に含まれるセキュリティ要素や業界固有の要素をAIで抽出し、自動的に関連の有無を選別する。これにより属人性を排除した情報の収集と品質向上を可能にし、ユーザーが本当に対応すべき情報を漏れなくスピーディーに提供できるようになるという。 先行的な取り組みとして、ある大手製造業と連携し、同サービスを活用した情報収集・分析の実証実験を行った。その結果、人手で行っていた分析時間を約80％短縮するとと
AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情
AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情：よくわかる人工知能の基礎知識（1/4 ページ） コンピュータシステムや端末に何らかの不正な働きかけをし、その利用者や所有者の利益に反する行いをするサイバー攻撃。その歴史は古く、今から30年以上前の1989年には、既に現在のランサムウェアに相当するものが登場している（インターネットではなくフロッピーディスクを通じて拡散されたそうだ）。それ以来、DDoS攻撃や標的型攻撃など、その数や種類は大幅に増えており、もはや人間だけで対処するのが難しいレベルに達している。 サイバー攻撃の増加と多様化によって、セキュリティ人材も不足してきている。高度化した攻撃に対抗するには高度な知識と経験が要求されるため、そうした人材を一朝一夕に増やすわけにもいかない。その意味でも、現在のセキュリティ対策には機械による自動化が欠かせなくなっている。 こ
機械学習でMicrosoftがセキュリティバグを判定、高い精度が特徴
機械学習でMicrosoftがセキュリティバグを判定、高い精度が特徴：1カ月で3万件発生するバグを利用 Microsoftは、教師あり機械学習を活用することにより、セキュリティバグの特定と分類の精度を大幅に向上させたと発表した。開発時、さらには運用後の改善にはセキュリティ専門家の協力を仰ぐことが不可欠なのだという。 ソフトウェア開発者は毎日、実装しなければならない機能はもちろん、報告のあったバグの長いリストを目の前にして苦労している。セキュリティの専門家は、自動化されたツールを使ってセキュリティバグに優先順位を付けているものの、開発者側では誤検知に時間を費やしたり、誤って分類された重要な脆弱（ぜいじゃく）性を見逃したりしている。 Microsoftでは、約4万7000人の開発者がソフトウェア開発に携わり、1カ月当たり3万件近くのバグを作り込んでいる。同社はバグを「Microsoft Azu
マイクロソフト、「Windows」PCのマルウェア感染予測コンペを「Kaggle」で開始
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます Microsoftが、「Kaggle」でデータサイエンティスト向けに「Microsoft Malware Prediction」コンペを開始した。「Windows」PCがマルウェアにすぐに感染しそうかどうかを予想するアルゴリズムを開発するというもので、賞金は総額2万5000ドル（約280万円）となっている。Kaggleは、企業や研究者がデータを投稿し、世界中のデータサイエンティストがその最適モデルを競い合う、予測モデリング及び分析手法関連プラットフォームだ。Googleは2017年に、Kaggleを買収したと発表した。 このコンペを運営するのはMicrosoftのWindows Defender Advanced Threat Prot
膨大なセキュリティアラートの誤検知、「9割以上」見抜けるAIを日立が開発中
サイバー攻撃の激しさが増し、新たに発見される脆弱（ぜいじゃく）性も年々増え続ける中、企業のセキュリティ担当者にかかる負荷も増え続けている。「攻撃の検知や可視化はできても、ログ解析の結果出てくる、1日100件以上のアラートにどう対応すればいいのか」。そんな悩みを抱えている企業は少なくないだろう。 実際のところ、膨大なアラートの中で本当に対応すべきものはほんのわずかで、それ以外の大半は誤検知なのが一般的だ。この誤検知をAI／機械学習を使って見抜き、セキュリティ監視業務の負荷を軽減できないか――。そのような取り組みが、日立製作所のプライベートイベント「日立セキュリティセミナー」で展示されていた。 膨大なアラートから、優先して対応すべきものを決めるのはアナリストの仕事だが、ビジネスごとにその傾向は異なることから、属人化してしまうという課題がある。また、セキュリティ人材の育成は時間がかかることから、
シマンテック、標的型攻撃調査にAIインテリジェンスを提供する新機能
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます シマンテックは4月17日、エンドポイントに対する標的型攻撃の調査に同社の解析情報を利用できる新たな機能の提供を発表した。調査作業におけるエンドユーザーの負担を軽減する狙いがある。 新しい機能は、同社が2010年に組織した標的型攻撃調査部門が行った最新の解析情報を企業ユーザーに提供するものとなる。2015年にリリースしたオンプレミス型のEDR（エンドポイント ディテクション＆レスポンス）製品「Symantec Advanced Threat Protection（ATP）」で既に利用でき、管理コンソールから最新の情報を確認できるようになっている。 記者会見したマネージドセキュリティサービス日本統括の滝口博昭氏によると、以前のSymante
マカフィー、機械学習活用の振る舞い検知製品とSIEMの最新版
マカフィーは4月9日、都内で記者会見を開き、不審な振る舞いを検知する「McAfee Behavioral Analitycs」と、セキュリティ運用機能を強化したSIEM(Security Information Management)の最新版「Enterprise Security Manager(McAfee ESM 11)」を発表し、販売を開始した。 冒頭、マカフィー シニアプロダクトマーケティングスペシャリストの中村穣氏は「早期発見・対応の実現には脅威対策ライフサイクルにおいて調査と分析のフィードバックが重要となり、相関分析を活用した検知の強化が用いられるようになっている。今後はより多くのログデータを使用する傾向が高まり、分析力の自動化と拡張性を伴う高速な検索が必要となる」と指摘した。 マカフィー シニアプロダクトマーケティングスペシャリストの中村穣氏 McAfee Behavior
ディープラーニングにもセキュリティ問題、AIをだます手口に注意
ディープラーニング（深層学習）にもセキュリティ問題が存在する。データからルールを導き出す「訓練」に使用するデータに不正なものを紛れ込ませたり、認識に用いるデータにある種のノイズを加えたりすることで、AI（人工知能）に誤検出させようとする。AIの信頼性に関わる問題だけに、米Googleなどが対策に動き出している。 「AIが判断を間違えると、大変な問題を引き起こす恐れがある。AIをどうやって防御するかが、大きな課題になっている」。Googleに所属するAI研究者であるIan Goodfellow氏はそう語る。2017年10月にシリコンバレーで開催されたディープラーニングに関するカンファレンス「BayLearn 2017」でも、セキュリティ問題が大きなテーマになった。 GoogleのGoodfellow氏によれば、機械学習ベースの画像認識技術に対する攻撃手法には「アドバーサリアル・エグザンプル（
Pythonと機械学習によるWebセキュリティの自動化
プログラムを自動生成する技術 ～ Programming by Example ～（NTTデータ テクノロジーカンファレンス 2020 発表資料）
Webアプリの脆弱性、機械学習で自動検出する新技術
機械学習を利用して、Webサイトが抱えるクロスサイトスクリプティング（XSS）の脆弱性を自動検出する技術が登場した。Webサイト側でXSSへの対策を施していても、それをかいくぐって攻撃するパターンまで見つけてくれる。2017年9月上旬に開催されたイベント「PyCon JP 2017 in Tokyo」で、三井物産セキュアディレクションの高江洲勲（たかえすいさお）セキュリティエンジニアが発表した。 高江洲氏は趣味で機械学習を勉強しており、せっかくだから本業のセキュリティに生かせないかと考えた。背景にはセキュリティ技術者の圧倒的な人材不足がある。機械で脆弱性を検出できるようになれば、これまでセキュリティエンジニアの職人技に大きく依存していたセキュリティ診断を自動化できる。 最初からすべての脆弱性を検出できるようにするのは大変なので、とりあえずXSSに対象を絞ることにした。XSSは、悪意のあるユ
サイバー犯罪対策にAIを導入--ラスベガスで見たセキュリティ最前線
「お客さんも、ハッカー？」 ラスベガスでタクシーを拾い、シーザーズ・パレスホテルで開かれている「DEF CON」に行ってくれと伝えると、運転手はすかさずこう聞いてきた。彼に汗がにじんでいるのは、40°Cを軽く超えるこの街の熱暑のせいだけではないのかもしれない。 まる1週間というもの、ラスベガスの街は猜疑心の分厚い雲に覆われる。世界中のハッカーたちが、7月の最終週に相次いで開催される2大サイバーセキュリティカンファレンス「Black Hat」とDEF CONに参加するために、この歓楽都市に集まってくるからだ。シーザーズ・パレスは、25周年を祝うDEF CONの会場となったが、同施設内のUPSストアには、「USBメモリからの印刷お断り」という注意書きが貼り出されるほどだった。街じゅうにハッカーがあふれているとなれば、そこまで慎重になるのも無理はない。 どこに行ってもハッカーだらけ。DEF CO
「明日あなたが狙われる」と予測できてこそAI、シマンテックのAI戦略
シマンテックは2017年6月15日、同社のセキュリティ製品/サービスにおける機械学習やAI技術の活用に関する説明会を開催した。未知の攻撃がネットワークやシステムに残した兆候の早期発見などに生かせる一方で、偽のデータで誤学習させる攻撃の標的にもなり得るという。 説明会には、米Symantecのアジアパシフィック地域/日本担当サイバーセキュリティ戦略マネージャーのNick Savvides氏がビデオ会議で参加。Savvides氏は「（一般的な）機械学習が物体認識技術とすれば、AIは車の自動運転」と定義した上で、同社にとってAIと呼べるのは「戦力の増強につながる」技術だとした。 米Symantecの機械学習/AI技術導入の年表。米Symantecのアジアパシフィック地域/日本担当サイバーセキュリティ戦略マネージャーのNick Savvides氏（写真右下）がビデオ会議で参加した。 同社は2000
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Amazon.co.jp: セキュリティエンジニアのための機械学習 ―AI技術によるサイバーセキュリティ対策入門: Chiheb Chebbi (著), 新井悠 (翻訳), 一瀬小夜 (翻訳), 黒米祐馬 (翻訳): 本
NICTがAIセキュリティーの新技術
AWS re:Invent 2018レポート、ジャシーCEOが発表した20の新サービスを一挙に解説
「Emotet」の大規模感染を阻止した人工知能のしくみ – 日本のセキュリティチーム - マイクロソフト
マカフィー、従業員の行動から異常を検知するソフト - 日本経済新聞
「自律データベース」はサイバーセキュリティ脅威への本質的解決策となるか
【海外ITトピックス】 サイバーセキュリティはAIとAIの戦いへ 「Black Hat」「DEF CON」から
