본문/내용
1. 본인이 데이터 엔지니어로서 수행했던 프로젝트 경험과 그 과정에서 겪은 어려움, 이를 극복한 방법을 구체적으로 서술하세요.
데이터 엔지니어로서 다양한 프로젝트를 수행하며 데이터 처리와 분석 역량을 키워왔습니다. 특히 한 번은 고객 행동 데이터를 분석하여 고객 맞춤형 마케팅 전략을 수립하는 프로젝트에 참여하였는데, 이는 저에게 큰 도전이었던 경험입니다. 이 프로젝트에서 데이터 수집 단계에서는 여러 부서에서 흩어져 있던 다양한 시스템의 데이터를 통합하는 일이 가장 어려운 부분이었습니다. 각 부서마다 사용하는 데이터 포맷과 저장 방식이 달라 데이터 정합성을 확보하는 과정이 복잡했고, 중복 데이터와 결측 데이터까지 함께 해결해야 했습니다. 이 과정에서 데이터 수집 자동화를 위해 파이썬 스크립트와 데이터를 저장하는 데이터 웨어하우스를 구축하였고, 여러 API와 데이터베이스를 연동하는 작업을 수행하였습니다. 그런데 데이터의 정합성이 기대한 수준에 못 미치는 문제에 부딪히게 되었습니다. 이는 드문 일이 아니었지만, 데이터를 분석 가능한 상태로 만드는 것이 어렵다는 점이 문제였습니다. 이를 해결하기 위해 데이터 검증 …