情報理論的エントロピー
情報理論的エントロピーには2つの側面がある
情報源から得られる平均の情報量
事象の不確定さ
熱力学的エントロピーとの関係もある
Keywords
エントロピー、不確定さ、条件付きエントロピー、相互情報量、カルバック・ライブラー情報量
ToC
エントロピーの定義・意味・性質
熱力学のエントロピーと情報理論のエントロピー
等価選択肢数
各種の情報量
同時エントロピー
条件付きエントロピー
相互情報量
カルバック・ライブラー情報量