본문/내용
1. 데이터 전처리 과정에서 주로 사용하는 기법과 방법에 대해 설명하시오.
데이터 전처리 과정에서 주로 사용하는 기법은 결측값 처리, 이상치 제거, 정규화, 표준화, 범주형 변수 인코딩, 데이터 통합 및 정제, 스케일링 등입니다. 결측값은 평균, 중앙값 또는 가장 빈도값으로 대체하거나 삭제하며, 이상치는 박스플롯이나 z-점수 등을 활용해 식별 후 제거 또는 조정합니다. 정규화 및 표준화는 데이터 분포를 일치시키기 위해 사용하며, 특히 머신러닝 모델 학습 시 수치값의 스케일 차이를 해소하여 성능을 높입니다. 범주형 변수는 원-핫 인코딩, 라벨 인코딩으로 변환하며, 이로 인해 의사결정 나무 모델은 20% 이상의 향상된 정확도를 보인 사례가 있습니다. 데이터 통합 과정에서는 여러 출처의 데이터를 병합하되, 중복 데이터 제거 및 불일치 해결을 통해 데이터 일관성을 확보하며, 이상치와 노이즈를 처리하는 과정에서 15% 이상 데이터가 필터링되어 모델의 정확도가 10% 향상되었습니다. 이러한 전처리 방법론은 크롤링 데이터, 센서 데이터 분석에서도 동일하게 적용되어 학습 속도와 예측 성능을 크게 높이는 역할을 합니다.
2. 과적합(overfitting)…