はてなブックマーク

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

はじめに 入門書として『すごいHaskellたのしく学ぼう!』を読みました． 楽しく学んだので簡単にまとめました． 大事だと思った部分や躓いた部分をメインにまとめています． 再帰 関数定義の中で自分自身を呼び出しことを 再帰 と呼びます． Haskellはとにかく再帰が多いので，頭を再帰に慣らしておくことが大事です． クイックソートを例に説明した後，いくつかの再帰関数を見てみます． クイックソート まずはアルゴリズムを書き出します． リストが空の場合，空リストを返す それ以外の場合，リストの最初の要素 x を取り出す x 以下の要素のリスト s と x より大きい要素のリスト l に分ける s, l に対して手順1, 2, 3を適用する 最後に全ての結果を結合する 具体例で試します． [5, 1, 9, 4, 6, 7, 3] [1, 4, 3] ++ [5] ++ [9, 6, 7] (

はじめに python で HMM のパラメータ推定を実装しました． 教科書として『続・わかりやすいパターン認識』を使いました． 本記事の構成 Hidden Markov Model サイコロ投げ 記号の整理 評価 forward algorithm backward algorithm 推定 Baum-Welch algorithm スケーリング 実装 結果 おわりに Hidden Markov Model 一時点前の状態に依存して現在の状態が確率的に決まるような特性を マルコフ性 と呼び， マルコフ性を満たす過程を マルコフ過程 と呼びます． このような事象の例として，株価や音声信号，言語などが挙げられます． マルコフモデルにおいて，出力記号の系列のみ観測でき，状態の系列が観測できないモデルを 隠れマルコフモデル(Hidden Markov Model) と呼びます． サイコロ投げ H

はじめに pythonでRNNを実装しました． 教科書として『深層学習』を使いました． 本記事の構成 はじめに RNN 順伝播計算 逆伝播計算 重みの更新 pythonでの実装 結果 ロス 系列データの予測 sin波の予測 おわりに RNNとは，系列データを扱う再帰型のニューラルネットワークです． 系列データの例として，音声や言語，動画像などが挙げられます． このような系列データは，サンプルごとに系列の長さが異なり，系列内の要素の順番に意味があることが特徴です． RNNは，系列データの特徴をうまく扱うことを可能にします． 順伝播計算 まずは，文字の定義をします． 入力層，中間層，出力層の各ユニットのインデックスをそれぞれ $i, j, k$ で表します． また，時刻 $t$ における入力，中間層の入出力，出力層の入出力，教師を以下のように表します． 入力： $\boldsymbol x^t

はじめに pythonでCNNを実装しました． 深層学習ライブラリは使用せず，numpyだけで実装しました． 教科書として『深層学習』を使いました． 本記事の構成 はじめに CNN 畳込み層 プーリング層 学習 重みの更新 誤差逆伝播 pythonでの実装 畳込み層の実装 プーリング層の実装 MNISTデータセットでの実験 学習 結果 おわりに CNN CNNとは，畳込み演算を用いた順伝播型ネットワークであり，主に画像認識に応用されています． 一般的なニューラルネットワークは，隣接層のユニットが全結合されたものですが， CNNは，隣接層間の特定のユニットのみが結合した特別な層を持ちます． これらの特殊な層では，畳込み および プーリング という演算を行います． 以下では，畳込みとプーリングについて説明します． 畳込み層 畳込みは，画像にフィルタの対応する画素同士の積をとり，その総和をとる演

はじめに pythonで混合正規分布を実装しました． 教科書として『はじめてのパターン認識』を使いました． 本記事の構成 はじめに 混合正規分布 混合正規分布モデル 隠れ変数と事後確率 対数尤度とQ関数 EMアルゴリズムによるパラメータ推定 pythonでの実装 結果 おわりに 混合正規分布 データ分布に確率モデルを当てはめると，各データがどのクラスタに属するかを確率的に決めることができます． 多くの確率モデルは単峰性の確率分布しか表現できないため，全体の確率分布を複数の確率モデルの重み付け線形和でモデル化する必要があります． クラスタ数を $K$，$k$ 番目のクラスタの確率モデルを $p_k(\boldsymbol x)$ とし，全体の確率分布を以下のように表します．

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

はじめに pythonのプログラムで最良経路探索問題を解いてみました． 教科書として『強化学習』を使いました． 本記事の構成 はじめに 最良経路探索 ルール Q 値の更新 実装 結果 おわりに 最良経路探索 ルール 図のような迷路での探索問題を考えます．白い丸がエージェント，赤がマイナス領域，青がゴールになります． ここでいう探索問題とは，ゴールに辿り着くまでの報酬を最大にする経路を探索することを指します． 以下にルールを示します． 迷路のサイズ： $6\times6$ それぞれの領域における報酬：黒の領域 $0$，赤の領域 $-1$，青の領域 $+3$ 青のゴールに辿り着いたら左上のスタート地点からやり直す Q 値の更新 以下の式により $Q$ 値を更新します． $Q(s_t, a)$ は，ある状態 $s_t$ での行動 $a$ の価値を表します．状態 $s_t$ での行動 $a$ によ

はじめに pythonで3層のニューラルネットワークを実装し，XNORの識別をしてみました． 数式も載せたので，興味のある方は読んでみてください． 教科書として『深層学習』を使いました． 本記事の構成 はじめに ニューラルネットワーク 重みの更新 誤差逆伝播 XNOR pythonでの実装 結果 おわりに ニューラルネットワーク ニューラルネットワークとは，人間の脳の神経回路を模したモデルです．このモデルを使うことで，画像認識や音声認識が可能となります． 今回実装したネットワークは入力層，中間層(1層)，出力層の3層構造です． 重みの更新 下の図で説明していきます． $l-1$ 層目の $i$ 番目のユニットから $l$ 層目の $j$ 番目のユニットへの重みを $w_{ji}^{(l)}$ とします． また，$l-1$ 層目の $i$ 番目のユニットが保持している値を $u_{i}^{(