의사결정나무(DecisionTree), CART 알고리즘, Kmeans에 관한 공부자료입니다.

1. 의사결정나무(Decision Tree)개념

의사결정나무(Decision Tree)는 데이터 마이닝과 머신러닝에서 널리 사용되는 예측 모델 중 하나이다. 이 모델은 트리 구조를 기반으로 하며, 데이터의 입력 변수들에 대한 분기를 통해 특정 결과를 예측하는 방식으로 작동한다. 의사결정나무는 그 시각적 형태 때문에 간단하고 이해하기 쉬운 모델로 널리 알려져 있다. 기본적으로 의사결정나무는 `질문`을 제기하고, 이에 대한 `답변`을 통해 데이터를 분류하거나 회귀 문제를 해결하는 형식을 취한다. 의사결정나무는 노드와 잎사귀(leaf)로 구성된 트리 구조를 형성한다. 각 노드는 특정 feature에 대한 질문을 나타내며, 이 질문의 결과에 따라 데이터는 다음 노드로 분기된다. 잎사귀는 최종적인 예측 결과를 나타낸다. 예를 들어, 분류 문제의 경우 잎사귀는 각 클래스(label)를 나타내며, 회귀 문제에서는 특정 수치를 나타낸다. 이 과정은 데이터를 여러 번 분할하면서 진행되며, 최종적으로 데이터를 가장 잘 설명할 수 있는 결정 기준을 찾아내게 된다. 의사결정나무의 장점 중 하나는 해석 가능성이 뛰어나다는 점이다. 모델의 의사결정 과정이 명확하게 드러나기 때문에,…