CNNを用いた物体検出アルゴリズムの性能比較 - Qiita
導入 物体検出アルゴリズムを用いたかった為、現在までに提案されている手法を勉強しようと思ったのですが、思いの他多く何を用いればいいのかわかりませんでした。論文内で精度の比較もされているのですが、結局自分の問題に何を使えばいいんじゃってなった為、調べた限りのアルゴリズム間の性能比較を行ってみました。 物体検出アルゴリズムとは、以下の図のように、画像内の指定された物体の位置 (localization) と分類の確率 (confidence) を出力するアルゴリズムを指します。 ここでは、物体検出アルゴリズムの中でもCNN (Convolutional Neural Network) を用いたもののみを対象としています。 物体検出分野における背景 物体検出 (Object Detection) は画像認識タスクの中の一つで、一般的に画像認識のタスクは以下のように大きく3つに分類されます。 Cl
（ 論文調査 ）deep neural network の ハイパーパラメータ チューニング知見資料 - Qiita
論文 は いくつかあるのでしょう が、まず は 大御所 Bengio先生 の 以下の論文 が 参考 に なります。 （ 論文 ） Yoshua Bengio Practical Recommendations for Gradient-Based Training of Deep Architectures 以下 の やりとり の中 で 言及されています。 Google group Chainer Japanese User Group 「LSTMにおける中間層のユニット数」 yukinoji お世話になっております。 chainerを利用してLSTMモデルを構築しているのですが、中間層のユニット数の設定が上手くいかず困っております。 現在およそ15000次元の数値ベクトルを入力として与え、それが0,1の2つのクラスのどちらに所属しているかを教師データとして与え、学習を行うよう実装している
抑えておきたい評価指標「正解率」「精度」「再現率」 - HELLO CYBERNETICS
評価の指標を１つじゃない はじめに 正解率 再現率 精度 分割表 評価の方法 精度と再現率のトレードオフ F値 break-even 注意点 参考 評価の指標を１つじゃない はじめに 機械学習による分類を行った場合に、その手法が従来より優れているか否かを判断したいという場面に遭遇します。 その際、分類を適切にできた数の割合である「正解率」に着目したくなりますが、実は評価の方法はコレ以外にも複数存在します。 正解率 正解率は、テストデータが個ある際に、予測結果が正解であった数をとして で表現されます。 最も直感的で分かりやすい評価指標です。 再現率 クラス分類でクラスがの個があったとしましょう。 「再現率」という場合には、「クラスに対する精度」という具合に、あるクラスについて評価をすることになります。 クラスのテストデータが個あるとしましょう。理想的には学習によって得られた分類器が、個のデー
【ReLU, PReLU, シグモイド etc...】ニューラルネットでよく使う活性化関数の効果をKerasで調べてみた - プロクラシスト
こんにちは、ほけきよです！ Kerasは簡単に実験ができて便利ですね！今回は、Kerasを使って活性化関数が実際の精度に与える影響を調べてみます。 使用するデータ : MNIST 使用するライブラリ : Keras Kerasの動かし方とかわからない人はこの記事を参照！ www.procrasist.com 指標 training : データを学習する validation : 学習データの一部を抜き取って、各エポック毎にテストをする(過学習チェック) test : テストデータで精度をチェック(始めから分けておく) 基本的に学習時の精度の上がり方を見たいという時は、trainingとvalidationを見る(testは最後に試す用のものなので使えない) 今回は、training dataでの正解率(accuracy)とvalidation dataでの正解率について各epochごとにど
評価方法・評価指標についてまとめる(随時更新) - St_Hakky’s blog
こんばんは。 毎回なんだっけなーとなる評価指標についてまとめます。また、英語の文献だけならいいんですが、日本語でたまに言われると面食らうので、それについてもまとめます。 ○混同行列 少しこの評価指標全般について話す前に、混同行列について書きます。ここで、一気に言葉の定義をして、以下で全部使います。 正解が陽 正解が陰 予測が陽 True Positive(真陽性) False Positive(偽陽性) 予測が陰 True Negative(真陰性) False Negative(偽陰性) ■True Positive(真陽性), TP 正解が陽であり、予測が正しい場合 ■False Positive(偽陽性), FP 正解が陽であり、予測が誤りの場合 ■True Negative(真陰性), TN 正解が陰であり、予測が正しい場合 ■False Negative(偽陰性), FN 正解が
クラシックな機械学習の入門 11．評価方法
【DL輪読会】Perceiver io a general architecture for structured inputs & outputs Deep Learning JP
再現率・適合率 - petitviolet_blog
再現率・適合率 前回のエントリの引用. Precision:適合率 検索結果に適合しない文書が入ってない割合 Recall:再現率 適合する全ての文書の内,どれだけ拾うことが出来たかの割合 計算式は以下の表を用いて Relevant Nonrelevant Retrieved tp fp Not Retrieved fn tn Precision(P) = tp / (tp + fp) Recall(R) = tp / (tp + fn) となる. PとRはトレードオフの関係である. 検索結果として全ての文書を返せば,R→1となるがP→0となる. 条件を厳しくして適合文書をほんの少しだけ返せばPは大きくなるが,Rは小さくなる. 例を挙げてみる. 文書集合内の文書の数は10コ. 検索結果として10コの文書を返す. 正解となる文書(適合文書)は4コ. 適合文書の出現順序は以下の通り. ランキン
柳井 研究室 (Yanai Lab.), 電気通信大学 情報工学科
1 はじめに 近年，Web上ではかつてないほど膨大な量の動画を閲覧できる状況になっている． しかしながら，それらの検索システムについてはテキストベーストなものが利用されているのが現状である． この場合，ユーザによって付加されたタグと呼ばれるキーワードを基に検索を行なうのが一般的であるが， 付加するタグの選択はユーザの主観に依存するところが多く， 検索結果には様々な動画が存在してしまっている． これらタグだけでは判別できない内容の差異を認識するためには， 動画自身の特徴量を考慮することが重要であり， これらの研究は TRECVID [1]を中心に盛んに進められている． 本研究では，これらの特徴量の比較基準に Earth Mover's Distance を利用し， キーフレーム数の異なる動画間での類似度算出を可能とすることで， キーフレームごとの特徴量を基にした類似動画検索を試みる． また，
クラスタリング結果の評価の尺度基準 - froglog
このエントリについて クラスタリングの結果を定量評価するときの基準を数年に1回ぐらい調べてる気がするのと、日本語であまりまとまった情報を見ない気がしたので挙げてみます。今回挙げるのはハード（クリスプ）クラスタリングについての指標です。後で追加するかも。 クラスタ内距離二乗和 という呼び方が正しいのかどうかわかりませんが、k-means 法の場合はこの値を繰り返し処理の結果、極小化するようになっており*1、重要な指標となります。 クラスタ内の凝集性を表現します。 \( P_k = \sum_{i=1}^k \sum_{x \in C_{i} } \left( d(x, c_i) \right) ^2 \) \( k \): クラスタ数 \( C_i \): i番目のクラスタ \( x \): クラスタのメンバー \( c_i \): i番目のクラスタのセントロイド Pseudo F Cali
損失関数 - 機械学習の「朱鷺の杜Wiki」
損失関数 (loss function)† 入出力をまとめたデータを \(z\)：クラス分類ならクラスと特徴ベクトルの対であり，回帰なら独立変数と従属変数の対． \(f\)：データを処理する関数 \(L(z;f)\)：損失関数 (loss function)は推定の悪さを定義した関数 回帰の場合は，データは \(z=(x,y)\) で，\(L(z,f)=(y-f(x))^2\) のような 二乗損失 (squared loss) が利用される クラス分類の場合は，データは \(z=(x,c)\) で，クラス \(c\) と関数の出力クラス \(f(x)\) が一致すれば 0，そうでなければ 1 をとる 0/1損失 (0/1 loss) が利用される \(f(\cdot;\theta)\) がパラメトリックな確率分布だったとき，対数損失は\(-\log f(\cdot;\theta)\)．この
【論文シリーズ】積層ノイズ除去自己符号化器 - Qiita
原文 ノイズ除去積層自己符号化器：局所的なノイズ除去基準を利用した深層ネットワークにおける有用な特徴量の学習(Stacked denoising autoencoders: Learning useful representations in a deep network with a local denoising criterion) Pascal Vincent (2010) 1. 要約 岡谷青本5.7.2項の元論文(詳細記述) 自己符号化器の入力値にノイズ(corrupted input)を付加し、出力層へ再構成させる。 結果的には、ノイズを除去する機構の学習にもつながり、対照モデルに比べ、頑健性が増す。 SVMのような浅層の識別器にも適用できる。 2. 骨子の理論 ～ノイズの種類～ ・ガウシアンノイズ→標準正規分布に基づく乱数を入力値に加える ・マスキングノイズ(MN)→入力要素
そのモデル、過学習してるの？未学習なの？と困ったら - once upon a time,
移転しました。 https://chezo.uno/post/2016-05-29-sonomoderu-guo-xue-xi-siteruno-wei-xue-xi-nano-tokun-tutara/
次元の呪いについて - Qiita
この記事について 以下の観点から高次元空間の性質についてまとめます。 次元数と最近傍・最遠傍との距離の関係 データ数と最近傍・最遠傍との距離の関係 人工データと実データの比較 はじめに 機械学習を使って何らかのタスクを解く上で、データの次元数は常に気にする必要があります。なぜなら、機械学習で扱う多くの問題はデータの次元数が大きくなるごとに難易度が跳ね上がるからです。 「次元の呪い」とも呼ばれるこの問題の原因は、高次元空間の性質にあると言われています。 データの次元数を大きくすると、私達の直感に反する興味深い挙動が確認できます。今回は、高次元空間の性質を簡単な数値実験で調べてみました。 次元の呪いとは データの次元数が高次元になると、データが空間の外側に集中して分布する現象です。 高次元空間の直感的な理解のためには下記が参考になると思います。 次元の呪い、あるいは「サクサクメロンパン問題」
平方根を使わずに高速で２点間の距離を近似する - きしだのHatena
２点間の距離の計算では平方根が必要になりますが、平方根は少し重い計算です。ということで、平方根を使わず、掛け算・割り算・足し算と絶対値・最大・最小だけで距離を近似する方法についての記事を翻訳してみました。 flipcode - Fast Approximate Distance Functions (12:02 補足：おそらく今の標準的なCPUでやる意味はほとんどないと思います。近似のアプローチとして面白いというくらいの話。Z80でやりましょう) 距離関数高速近似 by Rafael Baptista (27 June 2003) ２点間のユークリッド距離を求める計算式は次のようになる。 二次元では次のようになる。 この関数の計算には、平方根が必要になる。これは最近のコンピュータでも高価な計算である。平方根は逐次近似によって求められる。つまり、コンピュータは平方根近似のループを行って、与え
浮動小数点数型と誤差
有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも，そのうちの有限個の桁数でその値を表すしかない． 例えば，0.1 を２進数の小数で表すと 0.1(10) = 0.000110011001100110011...(2) と無限に続くが，コンピュータの内部では有限桁で丸められている． このような場合には，本当の値ではなく，近似値でしか表すことができない． 指数表記（浮動小数点表記） 科学計算では非常に大きな実数値や非常に小さな実数値も扱うことがある． そのようなときには，通常の１０進数の表記ではなくて，次のような指数表記で表すれば 無駄な 000...000 という桁を表記しなくてもよくなる． 1234567890000000000000
DeepLearningだ！と意気込んだものの手書き数字認識の後に続かなくなった時に読むデータそのものの話 - Qiita
DeepLearningだ！と意気込んだものの手書き数字認識の後に続かなくなった時に読むデータそのものの話PythonMachineLearningDeepLearning人工知能Chainer DeepLearningだ！人工知能だ！機械学習だ！ エンジニアとしての意気込みと、 なんだかすごいことが出来そうだな！という上司の後押しを一身に受け、 深層学習本やQiita記事を流し読み、 TensorFlowやChainerを導入して、 チュートリアルの写経で徳を積んで、 ゲームに使っていたGPUも学習という大義名分のもとフル稼働させた、、、 Accuracy 99.23% 今回は、MNISTやIRISを99%超で識別するエンジンを実装して満足してしまったエンジニアが MNISTを脱却するためにMNISTを知るための話 おなじみ、「MNIST」がつまりどんなデータなのか？ 28行28列の画像
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
average precision
モデルの精度を推定する
精度を保存したユークリッド距離の計算方法
GitHub - junion-org/cmnb: Complement Multinomial Naive Bayes