본문/내용
1. 데이터 전처리 과정에서 어떤 기법들을 사용하며, 각각의 상황에 맞게 선택하는 기준은 무엇인가요
데이터 전처리 과정에서는 결측치 처리, 이상치 제거, 정규화, 표준화, 범주형 변수 인코딩, 데이터 정제 등 다양한 기법을 사용합니다. 결측치는 평균, 중앙값, 또는 최빈값 대체 또는 삭제를 통해 처리하며, 이상치는 z-점수, IQR 방법으로 감지 후 제거 또는 수정합니다. 정규화와 표준화는 모델 성능 향상 목적이며, 특히 스케일이 다른 변수들을 균일하게 만들어야 하는 경우에 선택합니다. 범주형 변수는 원-핫 인코딩, 라벨 인코딩, 또는 더미 변수로 변환하며, 이때 데이터의 특성에 따라 적합성을 고려합니다. 예를 들어, 고객 이탈 예측 데이터에서는 결측치 15%가 존재했는데, 평균 대체시 모델의 정확도가 78%였고, 이상치 제거 후 82%로 향상되어, 상황에 따라 기법 선택을 조정합니다. 또한, 텍스트 데이터 전처리에는 토큰화, 정제, 불용어 제거, 표제어 추출 등을 활용하며, 시간 데이터에는 날짜 형식 통합 및 정규화가 이루어집니다. 이러한 기법들은 데이터 특성, 결측치 및 이상치 수준, 모델에 따라 선택하며, 실험적 반복을 통해 최적을 결정하…