情報理論

ベルによる電話の発明からマルコーニによる無線通信の発明に至るまで、「情報を運ぶのは電流/電圧の波形」と考えられた。

そのため、通信技術の主な目的は波形の忠実な伝送だった。

これに対してシャノンは、

「情報を運ぶのは波形ではなく情報量という確率的概念である」と考え、

（１）エントロピー/伝送速度/相互情報量/通信路容量/

通信路モデル/符号化/復号化/誤り訂正符号/データ圧縮などの基礎概念を確立し、

（２）「シャノンの三大基本定理」を証明して「通信の数学的理論」（情報理論）を構築した。

情報理論は、それまで個々に蓄積されていた通信技術を科学の一分野にした。

情報理論における情報は確率量であり、情報が持つ意味を無視する。

情報理論では「情報＝情報量で定義される確率的対象」だ。

「情報理論」という名称は、固体物理学のブリュアン帯で知られるブリュアンによる。

シャノンは、この名称を嫌った。「情報学」のように文系の印象を与えるためか。

ブリュアン → レオン・ニコラ・ブリルアンのこと

シャノンの情報理論は情報を意味論から完全に切り離したことで，高度な情報通信・情報処理を可能にしました．

コンテンツに関わる理論があるとすれば，この一度捨象された「意味論」を情報技術に取り戻す努力だと言うことができるでしょう．