선형차원축소, 비음수 잠재요인 발견목적의 NMF Non-negative Matrix Factorization

NMF Non-negative Matrix Factorization

차원축소/행렬분해 기법, 비음수 행렬 분해

모든 데이터 값이 0 이상인 경우 사용하는 행렬 분해 기법

원본 행렬을 여러개의 잠재요인 작은 행렬로 분해한다. 

원본 데이터를 여러 잠재요인의 선형 결합으로, 곱셈과 덧셈만 사용함으로 기본적인 선형모델이다.

 

선형모델 PCA와 목적이 다르다. 

PCA는 분산이 가장 큰 방향을 탐색해 축을 회전시키고 음수가 가능하다면 

NMF는 부분 특징을 추출해 음수를 금지시켜 해석이 쉽다. 

https://standout.tistory.com/1781

선형차원축소, PCA Principal Component Analysis: 가장 기본적인 차원축소

 

 

 

PCA는 차원축소, LDA는 차원축소  및 분류자체가 목적이라면

NMF는 차원축소가 핵심이라기보다 잠재요인 발견이 핵심이다. 

 

예로 단어행렬의 문서 여러개가 있다고 가정했을때

NMF는 이를 문서별 주제비율, 주베별 단어 비율로 분해한다.

이러한 단어등장횟수등은 음수가 될 수 없어 모든값은 0이상의 강제로 유지하게된다 .즉 해석이 쉬워진다 .

 

NMF는 이에 따라 얼굴전체특징에서의 눈패턴, 코패턴, 입패턴등 부분별 특징을 추출하는 경향이 있다. 

차원 축소
├─ PCA
├─ LDA
├─ ICA
├─ NMF
├─ t-SNE
└─ UMAP

 

 

따라서 결과적으로 다 차원축소를 하지만

차원축소대표 PCA, LDA

행렬분해 SVD, ICA, NMF 

로 따로 소개하는 경우가 많다. 

https://standout.tistory.com/1786

중요한 정보만 추출한다: 특이값 분해 SVD, Singular Value Decomposition

https://standout.tistory.com/1788

비지도학습, ICA Independent Component Analysis: 신호 분리(Blind Source Separation)

 

 

 

아래는 n_components=5 5개의 잠재요인을 추출 즉 5개의 주제를 찾겠다는 의미의 예시코드이다.

NMF는 문서속 주제를 발견해 축구/정치/경제로 분류하거나 사용자 취향을 추출하고 얼굴의 부분 특징을 추출하는데 이용할 수 있다 .

from sklearn.decomposition import NMF

nmf = NMF(n_components=5, random_state=42)
X_nmf = nmf.fit_transform(X)