雑音のない通話路の基本定理

１文字あたり$ Hのエントロピーを持つ情報源と単位時間当たり$ Cの容量を持つ通話路とがあるとき、この通話路を用いて単位時間あたり$ (C/H) - \epsilon文字の割合で情報を送るような符号化が、どんな小さな$ \epsilon \gt 0に対しても存在する。