변이형 오토인코더(VAE)

I. 변이형 오토인코더에 대해

변이형 오토인코더는 딥러닝에 기반한 생성 모델로, 주어진 데이터의 내재된 분포를 학습하는 데 중점을 둔다. 전통적인 오토인코더는 입력 데이터를 저차원 잠재 공간으로 인코딩하고 다시 복원하는 구조를 가진 반면, 변이형 오토인코더는 인코딩 과정에서 데이터의 분포를 확률적으로 모델링한다. 이러한 접근은 주어진 데이터 집합에서 더 일반적인 특성을 추출하고, 새로운 샘플을 생성하는 가능성을 제공한다. 변이형 오토인코더의 핵심 요소는 인코더와 디코더 두 부분으로 나뉜다. 인코더는 입력 데이터를 저차원 잠재 표현으로 매핑하는 신경망이다. 이 과정에서 나타나는 잠재 벡터는 단일 포인트가 아니라 특정 분포로 표현되며, 일반적으로 정규 분포를 따른다. 이 분포의 평균과 분산을 예측하기 위해 인코더는 두 개의 출력 경로를 가진다. 각각의 출력은 잠재 공간의 평균과 분산을 생성하며, 이후 샘플링 과정이 이어진다. 이 샘플링은 재parameterization trick을 사용하여 이루어지며, 이를 통해 경량화된gradient를 가능하게 하여 모델 훈련이 원활하게 진행된다. 디코더는 이 잠재 표현을 다시 원래의 입력 데이터 공간으…