印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます Microsoftは、開発者が人工知能(AI)システムのセキュリティをテストするためのオープンソースツール「Counterfit」をリリースした。 CounterfitプロジェクトはGitHubで公開されている。同社は、ほとんどの組織が敵対的な機械学習に対処するためのツールを持っていないことが、以前実施した調査で明らかになったと指摘した。 「このツールは、当社のAIサービスを積極的に保護するために、AIシステムの脆弱性を評価しなければならないという当社の必要性から生まれたツールだ。Microsoftの責任あるAIの原則と、『Responsible AI Strategy in Engineering(RAISE)』イニシアチブに基づいて
研究者らは、人工知能(AI)のアルゴリズムに存在するバイアスを見つけるための方法を、情報セキュリティの分野から学ぼうとしている。特に注目されているのは、ソフトウェアのコードをくまなく調べて潜在的なセキュリティの脆弱性を発見し、バグ報奨金を受け取ることを狙うハッカーたちだ。 アルゴリズムの問題やAIのアカウンタビリティーに取り組むMozilla FoundationのリサーチフェローDeborah Raji氏が行っている研究は、こうしたセキュリティ研究者の取り組みと、AIモデルに存在する潜在的な問題を見つける取り組みとの類似性に焦点を当てたものだ。 Raji氏は、2021年の「Mozilla Festival」で、AIの社会的影響などを研究し、啓蒙する非営利団体Algorithmic Justice League(AJL)と共同で進めている研究について発表した。Raji氏らは、バグ報奨金制度
国家が依存しているコンピューティング環境の管理に対し、より大きな権限を主張する政府が増えつつある。こうした風潮が拡大すれば、クラウド・コンピューティングの利点が失われ、プロバイダーとユーザー企業の両方にとって不利益となるだろう。 by Samm Sacks2020.12.22 25 44 4 5 クラウド・コンピューティングが重要な岐路に立たされている。現在、何百万という企業が、クラウド・コンピューティングを使ってデータを保存したり、アプリケーションやサービスをリモートで実行したりすることで、コストを削減し、業務を迅速化している。だが、クラウド・コンピューティングによってもたらされたこうしたメリットを、新たな風潮が脅かそうとしている。 「デジタル主権」は、国家が依存しているコンピューティング環境の管理についてより大きな権限を主張する政府のさまざまな取り組みを一言で言い表したものである。デジ
本コラムは、AIの安全を確保する技術を理解していただくために書かれています。本コラムの内容を検証する場合は、必ずご自身の管理下にあるシステムにて、ご自身の責任の下で実行してください。許可を得ずに第三者のシステムで実行した場合、法律により罰せられる可能性があります。 本コラムの内容を深く理解するには、敵対的サンプルの基本知識を有していることが好ましいです。 敵対的サンプルをご存じでない方は、事前にAIセキュリティ超入門:第2回 AIを騙す攻撃 – 敵対的サンプル –をご覧ください。 ハンズオン 本コラムは、実践を通じてARTを習得することを重視するため、ハンズオン形式で進めていきます。 ハンズオンは、皆様のお手元の環境、または、筆者らが用意したGoogle Colaboratory*2にて実行いただけます。 Google Colaboratoryを利用してハンズオンを行いたい方は、以下のUR
本コラムは、AIの安全を確保する技術を理解していただくために書かれています。本コラムの内容を検証する場合は、必ずご自身の管理下にあるシステムにて、ご自身の責任の下で実行してください。許可を得ずに第三者のシステムで実行した場合、法律により罰せられる可能性があります。 本コラムの内容を深く理解するには、敵対的サンプルの基本知識を有していることが好ましいです。 敵対的サンプルをご存じでない方は、事前にAIセキュリティ超入門:第2回 AIを騙す攻撃 – 敵対的サンプル –をご覧ください。 ハンズオン 本コラムは、実践を通じてARTを習得することを重視するため、ハンズオン形式で進めていきます。 ハンズオンは、皆様のお手元の環境、または、筆者らが用意したGoogle Colaboratory*2にて実行いただけます。 Google Colaboratoryを利用してハンズオンを行いたい方は、以下のUR
本連載は「AIセキュリティ超入門」と題し、AIセキュリティに関する話題を幅広く・分かり易く取り上げ、連載形式でお伝えしていきます。なお、本コラムでは、単にAIに対する攻撃手法や想定されるリスクのみを取り上げるのではなく、AIを攻撃から守る方法や気を付けるべきAI開発のポイントなども取り上げていきます。 AIセキュリティ超入門のコラム一覧 本コラムは全8回の連載形式になっています。 今後、以下のタイトルで順次掲載していく予定*1です。 第1回:イントロダクション – AIをとりまく環境とセキュリティ –第2回:AIを騙す攻撃 – 敵対的サンプル –第3回:AIを乗っ取る攻撃 – 学習データ汚染 –第4回:AIのプライバシー侵害 – メンバーシップ推論 –第5回:AIの推論ロジックを改ざんする攻撃 – ノード注入 –第6回:AIシステムへの侵入 – 機械学習フレームワークの悪用 –第7回:AI
機械学習セキュリティのベストプラクティス – Draft NISTIR 8269: A Taxonomy and Terminology of Adversarial Machine Learning – 論文紹介 概要 「Draft NISTIR 8269: A Taxonomy and Terminology of Adversarial Machine Learning」は、米国のNIST(National Institute of Standards and Technology)が策定を進めている機械学習セキュリティに関するベストプラクティスのドラフトであり、機械学習システムの安全確保を目的として、機械学習にまつわるセキュリティを「攻撃」「防御」「影響」の3つの視点で分類している。 NISTIR8269はブログ執筆時点(2020年7月9日)でドラフト版であるが、「NIST SP8
コールセンターに大量の問い合わせ電話――かけてきた相手はAIだった? インドのとあるコールセンターに、ある日突然、大量の問い合わせ電話が殺到した。止まない着信への対応に追われるオペレーターたち。コールセンターはパンク寸前だった。だが、そんな状態が数時間続いたころ、オペレーターたちは、一部の問い合わせ内容があまりにも酷似していることに気付き始めた。どうも、何かがおかしい。 調査を重ねた結果、これは顧客からの問い合わせを偽装した“電話によるDoS攻撃”であったことが判明した。内容が酷似していたためオペレーターたちに気づかれたものの、オペレーターと電話でやり取りしていたのは音声合成/音声認識の能力を持ったAIということで間違いない、という結論に達した。 現在のところ、攻撃を受けたコールセンターではスーパーバイザー(コールセンター管理者)が監視を強化することで対応に当たっているという。だが、再びA
AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情:よくわかる人工知能の基礎知識(1/4 ページ) コンピュータシステムや端末に何らかの不正な働きかけをし、その利用者や所有者の利益に反する行いをするサイバー攻撃。その歴史は古く、今から30年以上前の1989年には、既に現在のランサムウェアに相当するものが登場している(インターネットではなくフロッピーディスクを通じて拡散されたそうだ)。それ以来、DDoS攻撃や標的型攻撃など、その数や種類は大幅に増えており、もはや人間だけで対処するのが難しいレベルに達している。 サイバー攻撃の増加と多様化によって、セキュリティ人材も不足してきている。高度化した攻撃に対抗するには高度な知識と経験が要求されるため、そうした人材を一朝一夕に増やすわけにもいかない。その意味でも、現在のセキュリティ対策には機械による自動化が欠かせなくなっている。 こ
総務省及び経済産業省は、「情報信託機能の認定スキームの在り方に関する検討会」(主査:宍戸常寿 東京大学大学院 教授)において取りまとめた「情報信託機能の認定に係る指針ver1.0(案)」について、本年5月12日(土曜日)から5月31日(木曜日)までの間、意見を募集した結果、17件の意見の提出がありました。提出された意見及びそれに対する考え方、並びに意見を反映した指針を公表します。 1.概要 総務省及び経済産業省では、平成29年11月より、「情報信託機能の認定スキームの在り方に関する検討会」を開催し、本検討会において、いわゆる「情報銀行」に求められる情報信託機能に関し、民間団体等による任意の認定制度の在り方について検討を行いました。 同検討会で取りまとめた「情報信託機能の認定に係る指針ver1.0(案)」について、本年5月12日(土曜日)から5月31日(木曜日)までの間意見を募集した結果、1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く