自己相互情報量 - Wikipedia

2を底とする対数用いると、 を次のように計算できる。 なおこのとき、相互情報量 と計算できる。 相互情報量との類似点[編集] 自己相互情報量は、相互情報量と同様の性質がある。 ここで、自己情報量 である。 正規化自己相互情報量（Normalized PMI）[編集] 自己相互情報量は、区間 で正規化できる。決して共起しない場合は−1、独立の場合は0、完全に共起する場合は+1が得られる[2]。 ここで、は共同自己情報であり、次のように推定できる。 PMIの亜種[編集] 上記のNormalized PMI以外にも多くの亜種がある[3]。 PMIの連鎖律[編集] 相互情報量と同様、自己相互情報量は連鎖律に従う[4]。 これは次のように証明できる。 応用[編集] 自己相互情報量は、情報理論、言語学、化学（化合物のプロファイリングと分析など）など、さまざまな分野で利用できる[5]。計算言語学では、自