離散化手法に注目した変分推論
書誌情報
Variational Inference of Disentangled Latent Concepts from Unlabeled Observations
ICLR 2018
何をしている論文?
画像ベースで観測データから分離的な潜在表現を推論(学習)するDIP-VAEという手法を提案
潜在表現の分離度(性能)を評価する指標として、SAP scoreを提案
勉強のきっかけになるキーワード
ベイズ統計学(ベイズ推論)
変分推論
償却推論
β-VAEとDIP-VAE
KLダイバージェンス
評価実験
データセット
2D Shapes:○や□などの図形
CelebA:セレブの顔写真
ベースライン
VAE:変分オートエンコーダ
β-VAE:ハイパーパラメータβによってトレードオフを解消したVAE
評価指標
Z-diff:潜在表現の分離性能を評価する指標 分離した潜在表現同士を比較し正確に識別できるか
SAP:潜在表現の分離がどのように分離されているのかを評価する指標 特定の属性において分離の正確さに重点を置く
Reconst.error:エンコーダで入力したデータとデコーダへ再構成されたデータとの違いを評価する指標 データの尤度について評価することができる
感想
VAEに関する研究論文として読んだが、まだ知識のない段階で、ベイズ推論や変分推論に関する理論分野を調べながら読むことで、VAEの本質や、CaD-VAEとの違いについて知ることができたので、非常にためになるものだった。