PCA , SVD

PCA & SVD 목차 PCA (주성분 분석) SVD (특이값 분해) Relationship between PCA and SVD PCA (주성분 분석) 주성분 분석(PCA)은 데이터의 차원을 감소시키기 위한 통계적 기법이다. PCA는 높은 차원의 데이터를 분석할 때, 데이터의 구조를 이해하고 중요한 패턴이나 변수를 추출하는 데 유용하다. 이는 주로 데이터의 시각화를 용이하게 하고, 과적합(overfitting)을 방지하며, 계산 효율성을 높이기 위해 사용된다. PCA는 선형 변환 기법으로, 데이터를 새로운 좌표계로 변환하여 가장 많은 정보가 포함된 주성분을 찾는다. PCA의 주요 단계는 다음과 같다. 첫째, 원본 데이터의 평균을 제거한다. 이는 각각의 변수들이 평균 0을 가지도록 하는 과정으로, 데이터의 중심이 원점에 위치하게 한다. 둘째, 공분산 행렬을 계산한다. 이 행렬은 변수 간의 관계를 나타내며, 각 변수의 분산과 두 변수 간의 공분산을 포함한다. 셋째, 이 공분산 행렬의 고유값과 고유벡터를 계산한다. 고유값은 각 주성분의 분산을 나타내으며, 고유벡터는 새로운 좌표계의 방향을 정의한다. 고유값이 큰 주성분일수록 데이터의 변동성을 더 많이 설명한다. 따라서 PCA를 통해 고유값이 큰 상위 k개의 고유벡…
주성분 분석(PCA)은 데이터의 차원을 감소시키기 위한 통계적 기법이다. PCA는 높은 차원의 데이터를 분석할 때, 데이터의 구조를 이해하고 중요한 패턴이나 변수를 추출하는 데 유용하다. 이는 주로 데이터의 시각화를 용이하게 하고, 과적합(overfitting)을 방지하며, 계산 효율성을 높이기 위해 사용된다. PCA는 선형 변환 기법으로, 데이터를 새로운 좌표계로 변환하여 가장 많은 … SVD (특이값 분해)