목차/차례
1. 데이터 전처리 과정에서 흔히 발생하는 문제들과 이를 해결하는 방법에 대해 설명하세요.
2. 머신러닝 모델의 과적합(overfitting)을 방지하는 방법에는 어떤 것들이 있나요
3. 분류 문제와 회귀 문제의 차이점에 대해 설명하고, 각각의 예시를 들어보세요.
4. 딥러닝 모델을 학습시킬 때 하이퍼파라미터 조정이 왜 중요한지 설명하세요.
5. 자연어 처리(NLP)에서 사용하는 대표적인 전처리 기법은 무엇이며, 각각의 목적은 무엇인가요
6. 모델의 성능 평가를 위해 어떤 지표를 사용할 수 있으며, 각각의 특징을 설명하세요.
7. 데이터 불균형이 있을 때 모델의 성능이 어떻게 영향을 받으며, 이를 해결하는 방법은 무엇이 있나요
8. 최근에 주목받는 AI 기술 또는 트렌드에 대해 본인의 생각을 간단히 말씀해 주세요.
본문/내용
1. 데이터 전처리 과정에서 흔히 발생하는 문제들과 이를 해결하는 방법에 대해 설명하세요.
데이터 전처리 과정에서 흔히 발생하는 문제는 결측치, 이상치, 중복 데이터, 데이터 불균형, 스케일 차이 등입니다. 결측치는 분석 결과에 영향을 미치므로 평균값이나 중위수로 대체하거나, 삭제하는 방법이 있으며, 이상치는 박스플롯이나 z-score 등으로 검출 후 제거 또는 수정합니다. 중복 데이터는 데이터베이스 정제 과정에서 발생하므로, pandas의 drop_duplicates()를 활용하여 제거합니다. 데이터 불균형 문제는 SMOTE, 언더샘플링 기법으로 해결하며, 예를 들어, 고객 이탈 예측에서는 이탈 고객 비율이 5% 이하일 경우 조치가 필요합니다. 스케일 차이는 표준화(StandardScaler) 또는 정규화(MinMaxScaler)를 수행하여 해결하며, 실험 데이터에서 0. 01과 1000의 차이를 표준화하여 분석 정확도를 15% 향상시킨 사례가 있습니다. 이와 같이 전처리 단계는 데이터의 품질 향상과 모델 성능을 높이기 위해 중요하며, 검증 과정을 통해 지속적으로 수정이 필요합니다.
2. 머신러닝 모델의 과적합(overfitting)을 방지하는 방법에는 어떤 것들이 있나요
머신러…