2001 Lee

Algorithms for non-negative matrix factorization

Daniel D Lee and H. Sebastian Seung

Advances in neural information processing systems (NIPS), pp. 556–562, 2001

非負値行列因子分解 (NMF) は、多変量データの分解に有効

更新規則で使用される乗法係数がわずかに異なるだけの2 つの異なる乗法アルゴリズムを評価する。

アルゴリズム１：従来の最小二乗誤差を最小化する。

アルゴリズム２：一般化 Kullback-Leibler ダイバージェンスを最小化する。

両方のアルゴリズムの単調収束性は、期待値最大化アルゴリズムの収束を証明するために使用されるものと同様の補助関数を使用して証明できます。

これらのアルゴリズムは、対角的に再スケーリングされた勾配降下法として解釈することもできます。この場合、再スケーリング係数は、収束を確実にするために最適に選択されます。