機械学習を用いた診断AIの概要 | 技術者ブログ | 三井物産セキュアディレクション株式会社
1. はじめに 先日、某セキュリティ系の勉強会で「AIにWebアプリケーション診断をさせてみる」と題し、Webアプリケーション診断（以下、Webアプリ診断）を行う人工知能（以下、診断AI）のデモを行ったところ、意外にも好評でしたので、本Blogで少し深堀したいと思います。 なお、本Blogでは機械学習アルゴリズムにも触れますが、これらの詳細な解説は行っておりません。機械学習アルゴリズムの詳細については、「6.参考文献」に示した書籍やWebサイトで解説されておりますので、そちらでご確認いただければ幸いです。 それでは、診断AIの概要について解説を始めます。 2. 最終目標 以下の動作を実現できる「診断AI」を目指して開発を進めています。 「人間の診断員と同じように、診断対象のWebアプリをクローリングしながら診断を行い、発見した脆弱性を開発者、または、サイトオーナに報告することができる。」
機械学習モデルを推定する方法 : 研究開発
「White-box」とは、訓練されたモデルをローカルでダウンロードして使用すること 「Monetize」とは、ユーザーがモデルへのブラックボックスアクセスを他のユーザーに課金すること 4 Extraction with Confidence Values まず信頼性の値を返す予測APIに注目した抽出攻撃方法 ここでは logistic regressions (LR), neural networks, and decision trees を、対象としている。 4.1 Equation-Solving Attacks 多くの機械学習モデルは、入力xと実数値モデルパラメータの連続関数としてクラス確率を計算している この場合、このクラス確率を示すAPIは、未知モデルパラメータの方程式として見ることができる サンプル (x, f(x)) を敵に提供する事になる 4.1.1 Binary lo
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
