タグ

情報量に関するkiyo_hikoのブックマーク (2)

  • ハフマン符号とエントロピー

    kiyo_hiko
    kiyo_hiko 2015/02/15
    ホハソカムセフ(・ィ・ネ・愠ヤ。シ)、
  •      情報って何だろう?

    情報って何だろう? 1.はじめに 情報化社会,情報技術(IT),気象情報,株価情報-----,世の中に“情報”という言葉が溢れていますね.「情報」って一体何でしょう.辞書(広辞苑)には, ①    あることがらについてのしらせ. ②判断を下したり行動を起こしたりするために必要な,種々の媒体を介しての知識. と説明されていますが漠然としていて判りにくいですね.「情報」を科学的に取り扱うには,どうすればよいでしょうか. シャノンは1948年にA Mathematical Theory of Communication(通信の数学的理論)という論文を発表しました.その論文では,「情報」のある一つの側面に着目して情報量を定義し,それをもとに情報理論と呼ばれている学問を構築しています.今回の講座では,シャノンの情報理論のアウトラインを紹介します. 2.シャノンの情報量 シャノンは情報量を確率の関数と

  • 1