본문/내용
1. 데이터 전처리 과정에서 중요한 고려사항은 무엇이며, 이를 위해 어떤 기법을 사용해보았나요
데이터 전처리 과정에서 가장 중요한 고려사항은 데이터의 정합성과 품질 확보입니다. 이를 위해 결측치를 처리하는 것이 필수적이며, 결측치는 평균값 대체, 중간값 대체, 삭제 등의 기법을 활용합니다. 예를 들어, 고객의 연령 데이터에서 결측치가 5% 발생했을 경우, 평균값으로 대체하여 분석의 일관성을 유지하였습니다. 이상치 탐지에는 Z-스코어와 IQR(사분위 범위) 방법을 적용하였으며, 이상치 제거 또는 변환을 수행하여 모델 학습의 안정성을 높였습니다. 중복 데이터는 제거하며, 텍스트 데이터의 경우 정규표현식을 사용하거나 토큰화를 통해 노이즈를 제거하였습니다. 데이터 스케일링은 표준화와 정규화를 사용하여 변수 간 편차를 줄이고, 모델 학습 효율을 향상시켰습니다. 또한, 데이터의 불균형 문제를 해결하기 위해 SMOTE 기법을 적용하여 소수 클래스의 데이터를 증강시켰으며, 이는 분류 성능을 15% 향상시켰습니다. 이러한 전처리 과정을 통해 데이터의 신뢰성을 확보하고, 모델의 성능과 예측 정확도를 높이는데 중요한 역할을 수행하였습니다.
…