entropy
ja: エントロピー
def. 平均情報量のこと
定理
エントロピーの一意性定理
定義からして、 log の底の違いをのぞいて一意であること
つまり、たがいに定数倍しか違わない
#情報理論