情報理論 / 情報数理 - 星の本棚

情報理論[Information theory] / 情報数理 情報理論、情報数理に関してまとめたマイノートです。随時追加予定です。 項目 [Contents] 概要、全体 MAP [Overview] 情報理論の基礎 情報と確率 情報と確率空間 [probability space]、確率変数 情報源 [information source] 無記憶情報源（記憶のない情報源）[ i.i.d : independent and identically distributed ] 記憶のある情報源（マルコフ情報源） 通信路（情報を伝達する媒体）[channel] 記憶のない通信路（無記憶通信路） 記憶のある通信路（Gilblertモデル等） 情報の符号化 [encode]（情報を数量化する） 符号木 情報源と符号語の集合 情報量（情報の価値を定量化する） クラフトの不等式 [Kraft's