머신러닝에서의 차원축소

1. 차원이란

차원은 데이터의 특성을 정의하는 중요한 개념이다. 다차원 공간에서 데이터 포인트는 여러 개의 특성이나 변수로 표현된다. 차원은 이 특성의 수를 의미하며, 예를 들어 2차원 공간에서는 한 점이 x와 y라는 두 개의 특성으로 표현된다. 3차원에서는 z라는 추가적인 특성이 더해져 x, y, z의 값을 가질 수 있고, 이는 우리가 시각적으로 이해할 수 있는 공간을 나타낸다. 그러나 머신러닝에서 다루는 데이터는 종종 고차원으로, 수십 개에서 수백 개의 특성으로 구성된 경우가 많다. 이러한 고차원 데이터는 분석과 시각화에 있어 복잡함을 더하며, 이로 인해 차원 축소 기법이 필요하게 된다. 차원은 또한 데이터에서 정보의 밀도를 반영한다. 예를 들어 10개의 속성을 가진 데이터셋은 10차원 공간에서 포인터를 표현할 수 있는데, 만약 이 데이터의 일부 특성이 서로 강한 상관관계를 가지고 있다면, 실질적으로 이 데이터는 더 낮은 차원에서 효율적으로 표현될 수 있다. 이처럼 데이터의 차원 수는 정보의 다양성과 중복성을 결정짓는다. 특정 차원에서의 정보는 고차원 데이터의 이해를 어렵게 만들 수 있으며, 이러한 정보의 중복성을 제거하고 중요한…