情報理論
https://gyazo.com/c3d3c551606f8fd066352ffcebb3b668
2011
甘利俊一
https://www.chikumashobo.co.jp/product/9784480093585/
Claude Shannonが記念碑的論文「通信の数学的理論」を発表したのは1948年のことだった。それから60余年―今では情報理論は情報通信のみならず、生命科学や脳科学、社会科学など幅広い分野に応用されるようになっている。情報理論は高度な数学を用いているが、“大数の法則”をおさえることでその本質がすっきりと見えてくる。シャノンのアイディアから情報幾何学の基礎までを、初学者にもわかるよう明快に解説、情報理論の考え方と仕組みを直観的に理解するための、第一人者の手による入門書。
https://www.chikumashobo.co.jp/product/9784480093585/
第1章 情報の数量的認識
情報量とエントロピー情報源
第2章 雑音のない通話路による情報伝送
雑音のない離散通話路
符号化による冗長度の除去
第3章 雑音のある通話路での情報伝送
雑音のある離散通話路の容量
誤り訂正符号
第4章 連続情報と信号空間
連続信号のエントロピー
信号空間の構成
連続通話路
信号空間の情報幾何学
第5章 信号空間の写像と通信系の理論
通信系の構造
連続通信系の理論