第2回全脳アーキテクチャ勉強会での講演スライドです。Deep Learning の基礎から最近提案されている面白トピックを詰め込んだサーベイになっています。
Deep Learning技術の今
第2回全脳アーキテクチャ勉強会での講演スライドです。Deep Learning の基礎から最近提案されている面白トピックを詰め込んだサーベイになっています。
Takuya Kitazawa
👋 Hi, I'm Takuya Takuya Kitazawa is a freelance software developer, previously working at a Big Tech and Silicon Valley-based start-up company where he wore multiple hats as a full-stack software developer, machine learning engineer, data scientist, and product manager. At the intersection of technological and social aspects of data-driven applications, he is passionate about promoting the ethica
Grundy数に関するメモ - Isa@Diary
若干勉強した。 事前の認識 Nimというゲームがあって、初期の石の数のxorを取った結果が0かそうでないかで 何故か勝敗が解る。Grundy数というのが関係あるらしい。 Nim以外のゲームでどうやって使うのか(何に対してxor取るのか)解らない。 読んだもの .@nanikakaさんのd.hatena.ne.jp/nanikaka/20120… がとても役に立った— いささん (@Isa_rentacs) 12月 21, 2012 理解したこと ゲームの状態には2つの状態がある。 最善手を取れば勝てる(winning) 相手が最善手を取ると負ける(losing) ある盤面の状態は、現在の状態から遷移できる盤面の状態にlosingがあればwinning、そうでなければlosingとして決定できる。 ここで、あるゲームのルールと盤面の状態sに対して sからルールに従って遷移できる盤面の状態の集
chokudai先生の焼きなまし講座
コルン @colun 焼きなましは正直あんまり使ったことがなかったのだけれども、この間、大学院の後輩の焼きなましに関する説明を聞いてからは、根本的に焼きなまし法は凸凹している広域の探索には向かないんだなと思った。 2013-12-26 23:44:26 コルン @colun 距離や近傍の定義……「ある既知の一点に良さそうなものがある時に、べつの未知の一点に良さそうなものがある確率が高くなる時、近傍と推定される。まったく無関係である時、その２つの点は遠いと推定される」と僕は思う。 2013-12-27 00:17:21
マルコフ連鎖モンテカルロ法（メトロポリス法）による混合ガウス分布に従う乱数の生成 - My Life as a Mock Quant
平均(1,1),(-1,-1)となるような２つのガウシアンを3:7の割合で混ぜ合わせた2次元混合ガウス分布に従う乱数をマルコフ連鎖モンテカルロ法の１つであるメトロポリス法で生成するコードを書いた。 実行すると↓のように混合比率から若干(-1,-1)のガウシアンの方に引き寄せられた形になる。
Gibbsサンプラーを用いた正規母集団パラメータのベイズ推定
Xi （i = 1～n）を正規母集団N（μ、σ2）からのi.i.d.サンプルとする。Rを用いたGibbsサンプラーによるμとσ2のベイズ推定例を示す。 （参考文献）中妻照雄著「入門ベイズ統計学」、朝倉書店、p.145。 １．事前分布 ２．尤度関数 ３．事後分布 ４．未知パラメータの全条件付事後分布 ５．Gibbsサンプラーのアルゴリズム ６．Rコードの一例 library(MCMCpack) # rinvgamma（）を使用するため X <- c(0.0459, 0.0436, 0.0207, 0.0867, 0.1678, 0.1748) #データ n <- NROW(X) Xbar <- mean(X) Sum2 <- sum((X-Xbar)^2) mu0 <- 0.0 # ハイパーパラメータ sig20 <- 0.01 # ハイパーパラメータ （sig20はτ02を表す。） nu0
アルゴリズムの紹介
ここでは、プログラムなどでよく使用されるアルゴリズムについて紹介したいと思います。 元々は、自分の頭の中を整理することを目的にこのコーナーを開設してみたのですが、最近は継続させることを目的に新しいネタを探すようになってきました。まだまだ面白いテーマがいろいろと残っているので、気力の続く限りは更新していきたいと思います。 今までに紹介したテーマに関しても、新しい内容や変更したい箇所などがたくさんあるため、新規テーマと同時進行で修正作業も行なっています。 アルゴリズムのコーナーで紹介してきたサンプル・プログラムをいくつか公開しています。「ライン・ルーチン」「円弧描画」「ペイント・ルーチン」「グラフィック・パターンの処理」「多角形の塗りつぶし」を一つにまとめた GraphicLibrary と、「確率・統計」より「一般化線形モデル」までを一つにまとめた Statistics を現在は用意していま
平面グラフと交通ネットワークのアルゴリズム - iwiwiの日記
本日，PFI セミナーにて「平面グラフと交通ネットワークのアルゴリズム」というタイトルで話をさせてもらいました．スライドは以下になります． 「平面グラフでは色々な問題が効率的に解けると聞くけど一体何故？」 「道路ネットワークを処理するにはそういうアルゴリズムが使われているの？」 というような自分が昔持っていた疑問に答える，そんなつもりで準備をしました．そんな疑問を持っている方は，是非ご覧ください． 内容は以下のような感じです． 平面グラフのアルゴリズム（理論コミュニティ） 平面グラフとは何か 平面グラフのアルゴリズムテクニックとその応用例 双対グラフ 小さいセパレータの存在 (r-division) グラフ分割 (Deletion Decomposition) 交通ネットワークのアルゴリズム（応用コミュニティ） どのような課題が取り組まれているか 道路ネットワークは平面グラフなのか？ 経路
ROSALIND | About
About Learning bioinformatics usually requires solving computational problems of varying difficulty that are extracted from real challenges of molecular biology. To make learning bioinformatics fun and easy, we have founded Rosalind, a platform for learning bioinformatics through problem solving. Rosalind offers an array of intellectually stimulating problems that grow in biological and computatio
データマイニングコンペティションサイト Kaggle にも Deep Learning ブームがきてるかと思ったのでまとめる - 糞糞糞ネット弁慶
概要 最近話題の Deep Learning，NIPS や ICML，CVPR といった世界の話だろうと思っていたら Kaggle で Deep learning が去年一件，今年に入って更に一件優勝していたのでまとめる． Kaggle Kaggle: Your Home for Data Science おなじみのデータマイニングコンペティションサイト．データと目的関数が与えられた上で最も高いスコアを出したチームに賞金が出る． 最近では KDD Cup や http://www.kaggle.com/c/challenges-in-representation-learning-the-black-box-learning-challenge:title=ICML2013 workshop competition]，や RecSys2013 Competition，レストランレビューサイ
悪い子のためのビットベクターによる定数倍最適化 - xhlメモ @ hatena
※UTPC 2009 Problem F(天使の階段)ネタバレあり。 この日記は、Competitive Programming Advent Calendarのために書かれました。 この記事は、計算量的にTLEになる想定誤解法を、無理やり最適化して通してしまおうという悪い子のみんなのための記事です。 題材は Angel Stairs (UTPC 2009 Problem F: 天使の階段) です。 問題概要 n段の階段と、m音からなる曲があって、階段を踏むごとに音が鳴る。 階段のi段目には音T[i]が書かれている 音はCからBまでの12種類。以下ここでは0〜11と表記し、+-した場合も12で割った余りを取る(11+1→0)とする。 1段次、2段次、1段前に行くことができて、行った先の段がi段目だとすると、それぞれ T[i], T[i]+1, T[i]-1 の音が鳴る 指定された曲をぴった
情報知識ネットワーク特論 -講義資料- | 北海道大学オープンコースウェア (Hokkaido University OpenCourseWare, HU-OCW, 北大OCW)
情報検索とパターン照合（７回）（喜田が担当） ガイダンス、および、準備 講義スライド Prefix型アルゴリズム（naïve、KMP、AC、Shift-And/Or） 講義スライド Suffix型アルゴリズム（BM、Galil、Horspool、Sundayほか） 講義スライド 近似文字列照合 講義スライド 正規表現の照合 講義スライド 圧縮テキスト上のパターン照合 講義スライド 文字列照合技術の今後 講義スライド
「Rによるモンテカルロ法入門」読書ノート：アーカイブ - Wolfeyes Bioinformatics beta
本書は，モンテカルロ法の実践的な解説書であり，統計解析ソフトのRを用いた豊富な実例と練習問題が組まれている．モンテカルロ法とは乱数を用いて数値計算を行う手法の総称であり，本書で扱う内容は乱数の発生からモンテカルロ積分，そしてマルコフ連鎖モンテカルロ法（MCMC）の各種アルゴリズムに至るまで非常に幅広い．たいていの解説には理論に実践演習が付随した形となっており，数学的な理論を軸にして実際にRを用いたコード例が示される． 練習問題を解きつつ読書ノートをまとめてみる そんなこんなで，久保本と並行する形で「Rによるモンテカルロ法入門」を読んでいる．一応MCMCの部分だけひと通り目を通したのだが，最終的にMCMCの実装までひと通りやるにしても一連の流れを簡単にでも追っておかなければと思って，最初の乱数の部分からじっくり読み進めている．これがなかなか難しくて，手も足も出ないところをなんとかRのコードを
EMアルゴリズムによる混合分布のパラメーター推定の解析計算＆実装例 from 「Rによるモンテカルロ法入門」 - My Life as a Mock Quant
問題設定 R言語の書籍「Rによるモンテカルロ法入門」 のEMアルゴリズムに関連した「練習問題5.14」をpthonの練習がてらEMアルゴリズム構築までの数式もメモりながら解いてみたというお話。問題設定としては という混合分布(分布から確率、分布から確率でサンプリング)から個サンプリングした状況を考えて、このパラメーターをEMアルゴリズムで推定するというもの。機械学習の分野でいう所の「教師なし２クラス分類」に該当する（たぶん）。 グラフを使ってもうちょっとちゃんと説明しておくと、実際に観察された青い棒グラフで示されているデータは赤色のグラフで示されているからのサンプルなのか、それとも緑色のグラフで示されているからのサンプルなのかを識別するための閾値的な量になっているというパラメーターを推定してましょうと、そして、既存のデータはのどちらの分布から来た可能性が高いのかを判断しましょうとそういう問
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Non-negative Matrix Factorization（非負値行列因子分解） - あらびき日記
マラソンマッチ談義
SGA uses less memory for de novo assembly