2008 Choi NMF

Nonnegative matrix factorization (NMF) is a widely-used method for multivariate analysis of nonnegative data, the goal of which is decompose a data matrix into a basis matrix and an encoding variable matrix with all of these matrices allowed to have only nonnegative elements. In this paper we present simple algorithms for orthogonal NMF, where orthogonality constraints are imposed on basis matrix or encoding matrix. We develop multiplicative updates directly from the true gradient (natural gradient) in Stiefel manifold, whereas existing algorithms consider additive orthogonality constraints. Numerical experiments on face image data for a image representation task show that our orthogonal NMF algorithm preserves the orthogonality, while the goodness-of-fit (GOF) is minimized. We also apply our orthogonal NMF to a clustering task, showing that it works better than the original NMF, which is confirmed by experiments on several UCI repository data sets.

非負値行列因子分解（NMF）は、非負データの多変量解析に広く使用されている手法で、その目的は、データ行列を基底行列と符号化変数行列に分解し、これらの行列すべてが非負要素のみを持つことを許可することです。

本稿では、基底行列または符号化行列に直交性制約が課される直交NMFのシンプルなアルゴリズムを紹介します。

既存のアルゴリズムが加法的な直交性制約を考慮するのに対し、私たちはStiefel多様体の真の勾配（自然勾配）から直接乗法的な更新を開発します。

画像表現タスクのための顔画像データの数値実験は、私たちの直交NMFアルゴリズムが直交性を維持しながら適合度（GOF）が最小化されることを示しました。

また、私たちは直交NMFをクラスタリングタスクに適用し、それが元のNMFよりも優れていることを示しました。これは、いくつかのUCIリポジトリデータセットでの実験によって確認されています。

Published in: 2008 IEEE International Joint Conference on Neural Networks (IEEE World Congress on Computational Intelligence)

Date of Conference: 01-08 June 2008

Date Added to IEEE Xplore: 26 September 2008

ISBN Information:

ISSN Information:

DOI: 10.1109/IJCNN.2008.4634046