IIBMP2016(第五回生命医薬情報学連合大会)での招待講演の内容です。深層学習を生成過程の問題としてとらえて、なぜ表現を学習できるのかを説明した後に,深層生成モデル(VAE, GAN, 少しだけ自己回帰モデル, エネルギーモデル, モーメントマッチングモデルを紹介します。Read less
The document discusses control as inference in Markov decision processes (MDPs) and partially observable MDPs (POMDPs). It introduces optimality variables that represent whether a state-action pair is optimal or not. It formulates the optimal action-value function Q* and optimal value function V* in terms of these optimality variables and the reward and transition distributions. Q* is defined as t
3. 3 Part 0:イントロダクション(プロローグ) Part 1: 関連数学と1量子ビット操作 1-1: 線形代数学の基本知識 1-2: ブラケット記法と量子計算 1-3: ブロッホ球と1量子ビット操作 1-4: IBM Q Part 2: 量子ゲート型のプログラミング 2-1: 複数量子ビット操作 2-2: 量子アルゴリズムの基本 2-3: ドイチェ アルゴリズム 2-4: グローバー検索(量子検索) 2-5: 量子フーリエ変換 2-6: ショアのアルゴリズム 2-7: エラー訂正問題 2-8: Cirq(Google)・Blueqat(MDR) 2-9: 量子ゲート編 付録 Part 3: 量子アニーリング型のプログラミング 3-1: ハミルトニアンとQUBO 3-2: イジングモデル 3-3: グラフ理論 3-4: 巡回セールスマン問題 3-5: 多体相互作用 3-6: アニー
5. 5 目録 ◼ 私の失敗体験談(不均衡データの学習) ◼ 機械学習開発における壁 • 機械学習のビジネスフレームワーク「5D」 • Define(定義する) • Data(データを集める) • Development(開発する) • Deploy(実装する) • Drive(運用する) ◼ ビジネス応用における壁 • AIを使ったキュウリの自動選別 • 機械学習を使って売り上げに貢献する • 機械学習を使わない選択肢 ◼ まとめ 6. 6 目録 ◼ 私の失敗体験談(不均衡データの学習) ◼ 機械学習開発における壁 • 機械学習のビジネスフレームワーク「5D」 • Define(定義する) • Data(データを集める) • Development(開発する) • Deploy(実装する) • Drive(運用する) ◼ ビジネス応用における壁 • AIを使ったキュウリの自動選別 • 機
ベイズ統計学の基礎概念からW理論まで概論的に紹介するスライドです.数理・計算科学チュートリアル実践のチュートリアル資料です.引用しているipynbは * http://nhayashi.main.jp/codes/BayesStatAbstIntro.zip * https://github.com/chijan-nh/BayesStatAbstIntro を参照ください. 以下,エラッタ. * 52 of 80:KL(q||p)≠KL(q||p)ではなくKL(q||p)≠KL(p||q). * 67 of 80:2ν=E[V_n]ではなくE[V_n] → 2ν (n→∞). * 70 of 80:AICの第2項は d/2n ではなく d/n. * 76 of 80:βH(w)ではなくβ log P(X^n|w) + log φ(w). - レプリカ交換MCと異なり、逆温度を尤度にのみ乗す
2. 1946: ENIAC,高い計算能力 フォン・ノイマン「俺の次に頭の良い奴ができた」 1952: A.Samuelによるチェッカーズプログラム 機械学習と人工知能の歴史 2 1957:Perceptron,ニューラルネットワークの先駆け 第一次ニューラルネットワークブーム 1963:線形サポートベクトルマシン 1980年代:多層パーセプトロン,誤差逆伝搬, 畳み込みネット 第二次ニューラルネットワークブーム 1992: 非線形サポートベクトルマシン (カーネル法) 統計的学習 線形モデルの限界 非凸性の問題 1996: スパース学習 (Lasso) 2003: トピックモデル (LDA) 2012: Supervision (Alex-net) 第三次ニューラルネットワークブーム データの増加 +計算機の強化 1960年代前半: ELIZA(イライザ), 擬似心理療法士 1980年代
17. 数値処理の許容誤差 println(1.0 / 3); 0.33333334 ≠ 1 3 3x − 1 = 0 の解 println(sqrt(2)); 1.4142135 ≠ 2 x2 − 2 = 0 の解 18. 数値処理の許容誤差 println(1.0 / 3); 0.33333334 ≠ 1 3 3x − 1 = 0 の解 println(sqrt(2)); 1.4142135 ≠ 2 x2 − 2 = 0 の解 float値よりも,それを定義する数式自体が重要 →そこまでの数学的厳密さが必要とされるのか?
3. • 高機能暗号の紹介 • 自作アセンブラの紹介 • ソフトウェア開発の中で私が経験したことの紹介 • ソフトウェア開発で考えること・気を付けていること • 印象に残ってるバグ • まとめ 講演の目的 3 / 40 4. • 従来の古典的な暗号に無い機能を持つ暗号の総称 • 定義の決まった用語ではない • クラウドサービスでの利用を想定したものが多い • 秘匿検索 • キーワードを暗号化したまま検索できる • 準同型暗号 • 暗号化したまま計算できる • 属性ベース暗号 • 属性に応じた復号権限を制御できる • etc. 高機能暗号 4 / 40
3. スライドの趣旨 取り扱う話題 • 差分プライバシー (en: Differential Privacy) という概念を紹介 1. 何をするためのものか? 2. どの程度有益か? 3. どの程度有益ではないか? 4. 研究上の一般的課題は何か? 3 4. スライドの趣旨 取り扱う話題 • 差分プライバシー (en: Differential Privacy) という概念を紹介 1. 何をするためのものか? 2. どの程度有益か? 3. どの程度有益ではないか? 4. 研究上の一般的課題は何か? スライド作成動機 • 筆者は差分プライバシーを研究 • 概念そのものが根本的にわかりづらく,お茶の間の話題にしづらい • 「これさえ読めばわかる」資料を用意したい 4
2. • 楕円曲線暗号の原理を知る(前半30分ほど) • 暗号の話はここで終わり • 楕円曲線には様々な見方がある • トーラス𝑇 • 𝑦2 = 𝑥3 + 𝑎𝑥 + 𝑏の解集合𝐸 • 二重周期関数 • 1変数代数関数体 • 1次元アーベル多様体 • ... • 今回は特に𝑇と𝐸の関係性を紹介する(残り) 概要と目標 2/59 3. • 『クラウドを支えるこれからの暗号技術』 • 公開鍵暗号の(ほぼ)最先端の応用技術の紹介 • 前方秘匿性, 楕円曲線暗号, IDベース暗号, 属性ベース暗号, 関数型暗号, 準同型暗号, ゼロ知識証明, etc. • 比較的がっちり数学の話も入ってます • 楕円曲線, ℘関数, Weilペアリング, etc. • https://herumi.github.io/ango/ • 「クラウド時代の暗号化技術論」 • @ITでの暗号の連載記事 •
5. • その暗号技術がどのぐらい安全かを表す大雑把な指標 • nビットセキュリティは2 𝑛 回攻撃が必要 • 1回あたりの攻撃コストはあまり気にしない • 𝑂 2 𝑛 という表記 セキュリティビット 𝑛 直線 :𝑂(𝑛) 3次関数 : 𝑂(𝑛3 ) 指数関数 : 𝑂(2 𝑛) 𝑂(log 𝑛) 5 / 21 6. • 第二原像計算困難性(弱衝突耐性) • 𝑚1に対して𝐻 𝑚2 = 𝐻 𝑚1 となる𝑚2 ≠ 𝑚1が分からない • 同じじゃなくてもいいから何か一つ見つけるのが困難 • 𝑂(2 𝑛 )回トライ ; nビットセキュリティ • 衝突困難性(強衝突耐性) • 𝐻 𝑚1 = 𝐻(𝑚2)となる𝑚1 ≠ 𝑚2を見つけるのが困難 • 𝑂(2 𝑛/2 )回トライ ; 𝑛/2ビットセキュリティ • 第二原像を見つけるのは単なる衝突より2
2. ⾃⼰紹介 • 名前: takano • Twitter: @mtknnktm • 仕事: Web系企業のデータ関連あれこれ • 興味: 計算社会科学・複雑系科学 • もろもろ – Publications: https://sites.google.com/site/mtkn35699/ – Slide: http://www.slideshare.net/MasanoriTakano1 – Blog: http://mtkn.hatenablog.com/ 2 3. • ふと回帰分析したくなった時 • ふとMCMCしたくなった時 • ふと前処理したくなった時 • ふと機械学習したくなった時 • ふと集計したくなった時 • ふと社会科学したくなった時 でも iris はもう飽きた → そんなときのために、 誰でも使えるデータをご紹介 3 5. おもしろいと思った
4. ¡ マーケティングにおけるベイジアンモデリングの 必要性 ¡ 線形ガウス状態空間モデルの基本概念念 ¡ 線形ガウス状態空間モデルへの季節性変数の取込 ¡ 線形ガウス状態空間モデルへのマーケティング変 数の取込 ¡ パラメータ推定と実装⽅方法 ¡ おわりに・参考資料料 4 5. ¡ マーケティングにおけるベイジアンモデリングの 必要性 ¡ 線形ガウス状態空間モデルの基本概念念 ¡ 線形ガウス状態空間モデルへの季節性変数の取込 ¡ 線形ガウス状態空間モデルへのマーケティング変 数の取込 ¡ パラメータ推定と実装⽅方法 ¡ おわりに・参考資料料 5 6. PDCA サイクル 6 多岐に渡って、より精度度の⾼高い分析・予測が求められている セグメンテー ション ポジショニング ターゲティング マーケティング戦略略と戦術 考 慮 事 項 求 め
5. どんなグラフィカルモデルがあるか? マルコフ確率場 (Markov Random Field) ベイジアンネットワーク (Bayesian Network) *これらの下位モデルとして,有向木や無向木がある.また,無向リンクと 有向リンクの両方からなる連鎖グラフ(chain graph)というものもある. 無向グラフィカルグラフ 有向グラフィカルグラフ UGM: Undirected Graphical Model DGM: Directed Graphical Model 6. どんな応用があるか? モデル 応用例 補足 マルコフ確率場 画像復元・修復, 領域分割,画像合成, ステレオ照合, etc. 画素ベースの手法が多い.画素間 の因果関係を決めることが難しい ため,矢印を引きにくい. ベイジアン ネットワーク 物体追跡, ジェスチャ認識, etc. 系列データに対する手法が多
1. 2011.02 作成 マハラノビス距離とユークリッド距離の違い 車のスピードと停車するまでに必要な距 離を測定した2変数の cars データセットを 100 120 用いて、データ中心からの各データポイント 図1 の距離を測定する。 我々が通常距離と呼んでいるものはユーク 80 リッド距離だが、相関のある多変量データを dist 60 取り扱う際にはマハラノビス距離の方が便利。 40 方法 1 標準化してユークリッド距離を測定 20 変数 dist と speed はそれぞれ尺度が違う 0 のでそのままで距離計算をすると第 1 変数 5 10 15 20 25 の影響が第 2 変数よりも大きくなる。 speed これを避けるために、 まず2変数をそれぞ れ標準化し(図 2)、それから二乗和の平方根 をとって距離を計算する。 3 Histogram of d1 図2 2 図3 1 15
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く