パーティクルフィルタ
パーティクルフィルタ(Particle Filter, 粒子フィルタ、モンテカルロフィルタ)は、複数の粒子にノイズをくわえながら観測データとモデルを元に内部状態を推定しく手法.非線形なモデルに対しても適用でき、粒子の数だけ精度はよくなるが、計算量もその分増え、粒子数がNのときに時間計算量はO(N)となる. 実装が簡単で様々な分野で適用することができるのが特徴. パーティクルフィルタでは、任意の分布を粒子の分布の密度で近似できるため、 非線形のモデルにも適用できている. 以下の絵がパーティクルフィルタの処理の流れの概要です. 上図のワンセットを繰り返していくことで、モデルの状態を推定し続けます. この場合推定しているのはもちろん\(x_n\)です. 左上に描いているように確率分布で確率が高いところにはたくさんの粒子をばら撒くことでその粒子の偏り方(濃度)で分布を近似しています. 変数 \(x
わしの思うリッジ回帰(L2正則化)と正則化法。 - Pseudo Theory of Everything
1 はじめに 最近、我々+数名でスパースモデリングという分野を勉強しています。詳細はまた別の記事にて紹介するにして、今回はスパースモデリングの前段階に当たる リッジ回帰(ridge regresion) に脚光を当てます1。 読者には釈迦に説法かもしれませんが、リッジ回帰は L2 正則化とも呼ばれ機械学習の中でも非常にスタンダードな概念の一つになっています。しかし専門的に正則化法を扱ってみて、案外知らなかったことを知れたのでまとめました。 まず、リッジ回帰での損失関数は以下のような式で記述されます。 \begin{align} E = (y - X \vec{w})^2 + \alpha \vec{w}^T \vec{w} \end{align} 上記の損失を最小化するように係数の重みベクトル \(\vec{w}\) を推定します。解析的には \(\vec{w}\) について微分をしたもの
ブラックホール撮影にも使える「スパースモデリング」とは？【機械学習】 - ざるご博士になりたいブログ
この記事は移転しました。約2秒後に新記事へ移動します。移動しない場合はココをクリックしてください。 どうもざるご（@zalgo3）です． 世界初のブラックホール撮影の成功例が出たようです． ブラックホールの撮影に成功 世界初 一般相対性理論を証明 - 毎日新聞 今回のブラックホール撮影は，スパースモデリングという機械学習技術を取り入れたことによる貢献が大きいようです． 天文学に計算機科学の知識が取り入れられて，大きな成果が出たというのは，驚くべきことだと思います． 今回はそんな大成功を巻き起こした「スパースモデリング」について解説していきます． スパースモデリングとは スパースモデリングとは，誤解を恐れずにざっくりいうと解けない連立一次方程式を無理やり解くための仕組みです． 次のような連立一次方程式を考えます． この方程式は，が逆行列を持つときに解くことができて， となります．では，が逆行
Optunaでハイパーパラメータチューニング - HELLO CYBERNETICS
はじめに：Optunaとは 使い方 インストール 最適化問題の例 問題設定 最適化 最適化の結果 ニューラルネットワークのハイパーパラメータチューニング 問題設定 実装 ハイパーパラメータを引数に取り、ニューラルネットワークを構成する関数 ハイパーパラメータを引数にとり、最適化手法を返す関数 ハイパーパラメータを引数に取り、学習済のモデルを返す関数 ハイパーパラメータを引数に取り、最小化したい値を返す目的関数 いざ最適化 はじめに：Optunaとは OptunaとはPFNが世に送り出した最適化枝刈りライブラリです。 Pythonのコードとして機械学習のコードのどこにでも入れることができ、非常に使いやすいAPIとなっています。大体、結構丁寧なサンプル・解説が公式ドキュメントに既にあるので、分かる方は此方を読むのが一番早いでしょう。 Welcome to Optuna’s documentat
絵で理解するWord2vecの仕組み - Qiita
皆さん、Word2vec の仕組みはご存知ですか？ Word2vec は gensim や TensorFlow で簡単に試せるので使ったことのある方は多いと思います。しかし、仕組みまで理解している方はそう多くないのではないでしょうか。そもそも本家の論文でも内部の詳細については詳しく解説しておらず、解説論文が書かれているくらいです。 本記事では Word2vec のモデルの一つである Skip-Gram について絵を用いて説明し、概要を理解することを目指します。まずは Skip-Gram がどのようなモデルなのかについて説明します。 ※ 対象読者はニューラルネットワークの基礎を理解しているものとします。 どのようなモデルなのか？ Skip-Gram はニューラルネットワークのモデルの一つです。Skip-Gram は２層のニューラルネットワークであり隠れ層は一つだけです。隣接する層のユニット
やさしいハフ(Hough)変換講座 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 概要 ハフ(Hough)変換は、画像の中から直線や円などの図形を検出したい際によく用いられる手法の一つです。検出精度は高いですが、その分演算負荷が高く、またメモリも多く消費するなどの欠点があります。 しかし、理論が美しいことから、ぜひ覚えておきたい画像処理アルゴリズムの一つだと私は思いました。以下の記述は、次の記事を参考にしています。 Hough変換による画像からの直線や円の検出：CodeZine（コードジン） そもそもハフ変換って何を変換してるの？ 端的に言えば、座標系を変換しています。これだけでは何を言っているのかが分かりづらいと思
基本的なテンプレートマッチング
概要 テンプレートマッチングはテンプレート画像を入力画像で走査させ，入力画像上の各位置における類似度を算出し， 最大（もしくは，しきい値以上）の類似度をとる位置を検出する手法です． 本ページではテンプレートマッチングの基本的な類似度指標である，Sum of Abusolute Difference(SAD), Sum of Squared Difference(SSD)，Normalized Cross-Correlation(NCC)， Zero-means Normalized Cross-Correlation(ZNCC)について解説します． Sum of Abusolute Difference(SAD)，Sum of Squared Difference(SSD) SADはテンプレートfと入力画像gの濃度値の差の絶対値和，SSDは差の2乗和です． 「各画素値の違いの量」の累積値な
The computer that mastered Go - YouTube
Go is an ancient Chinese board game, often viewed as the game computers could never play. Now researchers from Google-owned company DeepMind have proven the naysayers wrong, creating an artificial intelligence - called AlphaGo – which has beaten a professional Go player for the first time. In this Nature Video, we go behind the scenes to learn about the game, the programme and what this means for
最適化アルゴリズムを評価するベンチマーク関数まとめ - Qiita
更新履歴 最適解と探索範囲を追記しました。 2016/11/29 @fimbulさん 編集リクエストありがとうございました。修正しました。 2017/7/10 @tomochiiiさん 編集リクエストありがとうございました。Easom functionを引用元の数式に修正、Schaffer function N. 2とN. 4の数式の修正 2018/5/9 @applicative62045 さん 編集リクエストありがとうございました(編集リクエストの確認遅くなりました。2019/12/31記載) Griek functionを修正 2019/12/31 @okamoto6496 さん 指摘ありがとうございました。Five-well potential functionの数式を修正。 2020/01/20 @higedura さん 指摘ありがとうございます。Bukin function N
(ルール変更前の)CODE VS 4.0 - ustimawのブログ
CODE VS 4.0について、ルール変更がアナウンスされる前後に調べていたこと、やろうとしていたことについて少し書いておきます。 内容は以下の2つです。 最終的なスコア(ターン数)はどうなるか 相手ユニット数からのAIの判別 最終的なスコア(ターン数)はどうなるか Extraモードが追加される前は、数十人が全ステージをクリアし、各ステージの相手を倒すまでのターン数の合計の少なさが順位を決める大きな要因となっていました。 CODE VS 4.0では、複数回の提出の中から一番よかったものがその参加者のスコアになります。そのため、プログラムが出すスコアの平均だけではなく、分散も影響します。同じプログラムで試行を続けた場合での最終的なスコア(つまり、複数回挑戦した中で一番いいスコア)がどうなるか予想できればと思って少し調べたことを書いておきます。 合計ターン数が、正規分布に従うと仮定しました。ス
多腕バンディットによる表示コンテンツの最適化 - クックパッド開発者ブログ
こんにちは。技術部検索グループの原島です。 上の画像は、スマートフォン（ブラウザ版）で見たクックパッドの検索結果ページです。レシピだけでなく、ニュースも表示されていますね。献立や掲示板のスレッドなどが表示されることもあります。 クックパッドでは、検索結果ページに表示するコンテンツをクエリなどに応じて最適化しています。最適化は、膨大なログデータと最新の機械学習を用いることで、実現しています。このエントリでは、クックパッドにおけるコンテンツ最適化の裏側を紹介します。 最適化の背景 スマートフォンの普及に伴って、ユーザが利用するプラットフォームは PC からモバイルにシフトしつつあります。クックパッドにおけるモバイル利用者の割合も、ここ 2 年で 10% 以上増加しました。最近では、60% 以上のユーザがモバイルからアクセスしています。 ユーザの利用形態が変化すれば、検索結果ページもその変化に対
キャラクターの学習から，自然なアニメーション作りまで。さまざまな分野で活躍するAIの魅力を伝える「スクウェア・エニックス AIアカデミー」レポート
キャラクターの学習から，自然なアニメーション作りまで。さまざまな分野で活躍するAIの魅力を伝える「スクウェア・エニックス AIアカデミー」レポート ライター：箭本進一 スクウェア・エニックスは，2014年9月24日，「スクウェア・エニックス AIアカデミー」の締めくくりとなる第5回講演を行った。スクウェア・エニックス AIアカデミーとは，同社のテクノロジー推進部が中心となり，事前の審査で選ばれた学生30名弱に向けて，ゲームAIに関する講義を行う学習会のようなものだ。誰でも参加できるというわけではなく，参加希望者は事前に小論文を提出しなければならないのだから本格的である。 2014年7月から9月にかけ，全5回，各回3時間のカリキュラムが組まれており，講義のあとにワークショップを行うという構成となっていた。第1回の様子はこちらの記事ですでにお伝えしているので興味のある方は参照されたい。 9月2
ないんたんの天気予報と画像処理アルゴリズム（2014年9月13日 情報科学若手の会）
ないんたんの天気予報と 画像処理アルゴリズム (http://j.mp/ninetan2014) Kentaro Imajo (@imos) 第47回 情報科学若手の会 （2014年9月13日）
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
tdual(ティーデュアル)@MatrixFlow on Twitter: "うおおおお！素晴らしい。ワイの疑問が載ってた。 自称機械学習の理論わかってるマンは読んだ方が良い。 わしの思うリッジ回帰(L2正則化)と正則化法。 - Pseudo Theory of Everything https://t.co/6Jkfp6NaQ6"
piqcy on Twitter: "言語モデルで実際文を生成するときに必要なDecodingについて、各種手法とTransformernによる実装を紹介している記事。単純に一番確率が高い単語をとっていくGreedy Searchから代表的なBeam Searchなど… https://t.co/faETArJFzQ"
cakes（ケイクス）
ゼロ平均正規化相互相関 - PukiWiki
サルでも分かるwaifu2xのアルゴリズム.pdf - Google ドライブ
最適化超入門
Static hosting for Bitbucket by Aerobatic
