はてなブックマーク

この記事ではソフトマックス関数について、レベルを分けてできる限り分かりやすく説明していきます。 Wikipediaによると（https://en.wikipedia.org/wiki/Softmax_function） 「ソフトマックス関数は、非正規化されたベクターを取って、それを確率分布に正規化するもの」らしいです。 え？　　これではよくわかりませんね。順を追って説明しましょう。 とりあえず、何が言いたいの## ざっくり言えば、ソフトマックス関数とは、出力されたごちゃごちゃした数字を和が綺麗に100%(1.0)になる数字に変えてくれる関数です。 画像を見て猫と犬かを当てるプログラムがあるとしましょう。 隠れ層を通過して無事、画像が猫か犬かの確率を表す数字が出力されたとします。 そこでソフトマックス関数が無いと、犬が2.0、猫が1.5などとプログラムは出力してしまいます。2.0と1.5では

はじめに## 交差検証は「ものさし」のようなものです。いくら良い結果が出たところでその「ものさし」の目盛りがズレていては全ての長さが間違っていたことになります。交差検証も同様です。交差検証の方法が間違っていた場合いくら良いモデルが出来たと思っても間違っていることになります。全ての努力は水の泡です。ですから交差検証は何かの問題を解くときに一番最初に取り組むものですし、機械学習の中で一番重要と言っても過言ではないです。この記事ではそんな交差検証を紹介し、良い「ものさし」が作れるデータサイエンティストを目指します。 目次## 基礎から発展の順で書きます。基礎では主にsklearnのドキュメントを参考にし、発展のところではkaggleなどで実際に使われたCVの手法を書きます。発展は面白いCVが多いですので是非参考に。 なお筆者は専門家ではないので（一応確認はしているが）間違いもあるかと思われます。

はじめに## この記事では次元削減法のまとめを載せてます。まとめ要素を強めたかったので詳細な数式等は載せていません。毎回の終わりにもっと詳しいことが書かれている参考文献等を載せているのでご自由に閲覧してください。また間違え等があった場合は下のコメント欄か編集リクエストで教えて頂けると有難いです。 目次## PCA (主成分分析) LSA(SDA) (潜在意味解析 (特異値分解)) LDA (線形判別分析) ICA (独立成分分析) PCA (主成分分析)## WHAT:### PCAとはWikipediaによると、「主成分分析（しゅせいぶんぶんせき、英: principal component analysis; PCA）とは、相関のある多数の変数から相関のない少数で全体のばらつきを最もよく表す主成分と呼ばれる変数を合成する多変量解析の一手法[1]。データの次元を削減するために用いられる。