ニューラルネットの分類問題 分類するクラスの数=出力層のユニットの数 ラベルデータ 現実の出力 ソフトマックス関数 確率を出力している 交差エントロピー 損失関数 交差エントロピーを用いる理由 ニューラルネットの分類問題 分類するクラスの数=出力層のユニットの数 ニューラルネットワークで分類問題を解く場合は、入力層はデータの次元の数に合わせ、中間層は任意の構造を持たせることができますが、出力層は分類したい種類(クラス)と同じ数のユニットで構成します。 あるデータから、男女を判別したいならば出力層のユニットは2つですし、お馴染みの手書き文字認識のmnistを使う場合は「0〜9」の手書き文字を認識するために10個のユニットを出力層に準備するということです。 ラベルデータ 入力データに対してそのラベル(答え)をとした時に、は分類したいクラスの数(出力層のユニットの数)の次元を持つことになります。
もうこれだけは絶対に把握しておいてください! ってものだけ。 学問周り Q:機械学習ってなんですか? Q:統計学との違いはなんですか? Q:深層学習ってなんですか? 手法周り Q:ニューラルネットワークってなんですか? Q:サポートベクターマシンってなんですか? Q:カーネル法とは? Q:クラスタリングは何をするもの? Q:教師なし学習と教師あり学習の違いは? Q:特徴量抽出ってどんな作業ですか? 何が言いたいのかというと ディープラーニングは特徴量を自分で獲得する? 特徴量の獲得を指令しているのは誰? なんでこの記事書いたのか 以下の人たちに最低限把握してほしい 学問周り Q:機械学習ってなんですか? 既知のデータから規則性を見出す手法を研究する人工知能の一分野です。 モデルを仮定し、そのモデルを既知のデータに上手く当てはめることを学習と言います。 Q:統計学との違いはなんですか? モデ
前回、Deep Learningを用いてCIFAR-10の画像を識別しました。今回は機械学習において重要な問題である過学習と、その対策について取り上げます。 sonickun.hatenablog.com 過学習について 過学習(Overfitting)とは、機械学習において、訓練データに対して学習されているが、未知のデータに対して適合できていない(汎化できていない)状態を指します。たとえ訓練データに対する精度が100%近くに達したとしても、テストデータに対する精度が高くならなければ、それは良い学習とはいえません。特にニューラルネットは複雑なモデルのため過学習に陥りやすいと言われています。 過学習の例 過学習の例として、最小二乗法による多項式近似を用いてサインカーブ(+標準偏差0.3の乱数)を推測してみます。 参考:最小二乗法のロバスト推定についてまとめた - sonickun.log 下
深層学習 (機械学習プロフェッショナルシリーズ) 作者: 岡谷貴之出版社/メーカー: 講談社発売日: 2015/04/08メディア: 単行本(ソフトカバー)この商品を含むブログ (13件) を見る こんな人におすすめ 人工知能オジサン*1にならないように 線形代数と微分の基礎的な素養のある人 ディープラーニングの基礎を学びたい人 章立て 第1章 はじめに 第2章 順伝播型ネットワーク 第3章 確率的勾配降下法 第4章 誤差逆伝播法 第5章 自己符号化器 第6章 畳込みニューラルネット 第7章 再帰型ニューラルネット 第8章 ボルツマンマシン 書評 1年前に情報系に専門を変え、ディープラーニング関係で初めに読んだ本。ちょうど1年前は爆発的に流行り始めたころだった。 今はもう少しいろいろと日本語の本がそろってきているかもしれないが、この本は基礎から数式を追いながらきちんと学べる本だと思う。 数
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く