다변량분석 중간과제물 30점만점

1. 주성분 분석(p.78, 2 장 4 번)

주성분 분석은 데이터의 차원을 축소하는데 유용한 통계적 방법으로, 고차원 데이터에서 주요한 구조와 패턴을 추출하는 데 쓰인다. 주성분 분석의 기본 아이디어는 원래의 변수들을 선형 결합하여 새로운 변수를 생성하고 이 새로운 변수들이 데이터를 설명하는 데 더 효율적이도록 하는 것이다. 이 새로운 변수들은 주성분이라 불리며, 첫 번째 주성분은 데이터의 분산을 최대화하는 방향으로 설정된다. 두 번째 주성분은 첫 번째 주성분과 직교하면서 남은 분산을 최대화하는 방향으로 정의된다. 이렇게 생성된 주성분들은 서로 독립적인 특성을 가지며, 이를 통해 원래 데이터의 구조를 이해하는 데 큰 도움을 준다. 주성분 분석의 과정은 여러 단계로 이루어진다. 먼저, 데이터의 중심을 맞춘다. 이는 각 변수에서 평균을 빼는 과정을 통해 이루어진다. 다음으로, 공분산 행렬을 계산한다. 공분산 행렬은 변수들 간의 관계를 나타내며, 각 변수의 분산과 변수 간의 공분산을 포함하고 있다. 이후, 이 공분산 행렬에 대한 고유값 분해를 수행하여 고유값과 고유벡터를 구한다. 고유값은 각 주성분이 차지하는 분산의 정도를 나타내고,…