サクサク読めて、アプリ限定の機能も多数!
トップへ戻る
iPhone 16
seetheworld1992.hatenablog.com
勉強を進めていて,4つの基本部分空間(four fundamental subspaces)についてモヤモヤしてしまいました.線形代数を理解する上で非常に重要な概念だと感じるので,その内容をまとめることにしました. 4つの基本部分空間とは,行列の行空間(row space),列空間(column space),零空間(nullspace),左零空間(left nullspace)のことです.連立一次方程式の解,行列のランクなどとも密接に関連します.文献[1][2]を参考にして以下にまとめます. ================================================================================= 行列 の行列を考えます.4つの基本部分空間とは,以下の4つの空間のことです. 1. 行空間 , の部分空間 2. 列空間 , の部分空間
勉強を進めていて,機械学習あるいは組み合わせ最適化における基本的な原理であるノーフリーランチ定理(no free lunch theorem)を知りました.文献[2]によるとそれぞれ別のものとして考えるようです.機械学習におけるそれがどのようなものかについて,文献[4]から引用します. ノーフリーランチ定理:全ての分類問題を考えたとき,どのようなアルゴリズムも平均的には,その汎化誤差に関して事前の差はない この記述のいいかえとして,以下の記述があります. あるアルゴリズム A がある予測問題で,アルゴリズム B より汎化誤差に関して性能が良かったとしても,アルゴリズム B が A より良くなるような別の予測問題が存在する 上記二つの記述は直感的にはわかりやすいですが,具体的に数式で理解したいところです.本記事では二値分類におけるノーフリーランチ定理に着目し,文献[1]をベースにして定理と証
応用上よく使われる特異値分解(singular value decomposition ; SVD)について,どのように導出するのか,左特異ベクトル,特異値,右特異ベクトルがいったい何なのかという点にいつもモヤモヤしてしまうので,その内容を調べてまとめることにしました. 文献[1]の3章をベースにしてまとめますが,行間を埋めるための説明や式変形の途中経過を追加しています.また定理の証明を省略している箇所があります. ================================================================================= 特異値分解は複素数を要素にもつ行列に対する概念ですが,本記事で扱う行列,ベクトルの要素はすべて実数であるとします. [ 1. 最良の部分空間 ] の 実行列 の行ベクトルを 次元空間における 個の点と解釈し,それらの
このページを最初にブックマークしてみませんか?
『エンジニアを目指す浪人のブログ』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く