KLダイバージェンス

2つの確率分布の差異を計る尺度である

例えばP はデータ、観測値、正確に計算で求められた確率分布などを表し、Q は理論値、モデル値、P の予測値などを表す