본문/내용
1. 11번가의 빅데이터 인프라 구조에 대해 설명해주세요.
11번가의 빅데이터 인프라는 대규모 데이터 수집, 저장, 분석을 위한 분산형 아키텍처를 갖추고 있습니다. 데이터 수집 단계에서는 Kafka를 활용하여 실시간 스트리밍 데이터를 처리하며, 사용자 클릭 로그, 상품 조회 로그, 거래 데이터 등 방대한 데이터를 빠르게 수집합니다. 저장 단계에서는 Hadoop HDFS를 기반으로 데이터 웨어하우스를 구성했고, 데이터는 수백 페타바이트 규모로 축적되어 있습니다. 분석에는 Spark, Flink 등 분산 처리 엔진이 활용되며, 실시간 분석과 배치 분석을 병행합니다. 이를 통해 고객 맞춤형 추천, 상품 검색 최적화, 마케팅 전략 수립이 가능하며, API 기반 데이터 서비스로 내부 비즈니스에 신속하게 가치를 제공합니다. 11번가는 이러한 인프라를 통해 년간 4000억 원 가까운 거래액을 지원하는 데이터 파이프라인을 운영하며, 데이터 처리 속도는 평균 5초 내에 사용자 요청에 답변할 수 있도록 설계되어 있습니다. 이를 바탕으로 고객 경험 향상과 매출 증대에 크게 기여하고 있으며, 데이터 품질 유지를 위해 다양한 검증 프로세스와 모니터링 시스템도 병행하여 사용합…