본문/내용
1. 데이터 전처리 과정에서 반드시 수행해야 하는 단계는 무엇인지 설명해 주세요.
데이터 전처리 과정에서 반드시 수행해야 하는 단계는 결측값 처리입니다. 결측값이 존재하면 분석 결과에 왜곡이 발생할 수 있으며, 예를 들어 특정 변수에 결측값이 과다하게 존재하면 전체 모델의 정확도가 15% 이상 저하될 수 있습니다. 이를 해결하기 위해 평균, 중앙값 대체, 혹은 예측 모델을 활용한 결측값 보완 방법을 사용하며, 결측값이 차지하는 비율이 5% 이상인 경우 해당 샘플이나 변수 자체를 제거하는 것도 고려합니다. 또한 이상치 제거도 중요하며, 박스플롯, Z-스코어 등을 활용하여 5배 이상의 IQR 또는 Z-스코어가 ±3를 벗어값을 이상치로 판단하여 제거하거나 수정합니다. 이 과정은 데이터의 분포를 왜곡하지 않으면서도 노이즈를 줄여 분석의 신뢰도를 높이는 역할을 합니다. 데이터 형변환, 범주형 변수의 인코딩, 스케일링은 모델 성능 향상에 직결되는 단계로 필수적입니다. 특히 스케일링은 10배 이상 차이변수들이 있을 경우, 모델의 수렴 속도를 빠르게 하고 성능을 향상시킵니다. 따라서, 결측값 처리, 이상치 제거, 데이터 형변환 및 스케일링은 …