ぱらぱらめくる『Shannon Information Theory and Molecular Biology』 - ryamadaのコンピュータ・数学メモテキスト(PDF) 普通に「ぱらぱらめくる」のではなくて、自分なりの思い込みを入れつつ、「ななめ読み」してみることにする 1 Introduction 情報(異同)を伝えることは、情報を運んでいるキャリヤとキャリヤに情報を読み取るデバイスでできている。そこには記法がある "アルファベット"とその並びと文法 『ぱらぱら読者の注』 "アルファベット"は「紙に書かれ」ていてもよいし、「音シグナル」の連なりでもよいだろう。DNAは塩基の並び ただし、ここでは、"アルファベット"は1次元配列であるとしている 2 Shannon measures of information 情報量を定量的に取り扱う エントロピー 相互情報量(Mutual information) 片方からもう片方が推定できてしまうか否か Information Divergence ID(Kullback-Leibler dive
