[A＋] 현재 생성 모델 (generative model) 의 발전 현황

1. 생성 모델 개요

생성 모델은 데이터로부터 새로운 데이터 샘플을 만들어내는 인공지능 기술로, 자연어 처리, 이미지 생성, 음성 합성 등 다양한 분야에 적용되고 있다. 최근 몇 년간 딥러닝의 발전으로 생성 모델은 비약적인 성장을 이루었으며, 그 핵심 기술로는 적대적 생성 네트워크(Generative Adversarial Networks, GANs), 변이형 자기회귀 모델(VAE), 트랜스포머 기반의 언어모델이 있다. GAN은 2014년 Ian Goodfellow가 제안한 이후, 이미지 생성 분야에서 뛰어난 성능을 보여주었으며, DeepFake 영상이나 초현실적 이미지 생성에 활용되어왔다. VAE는 확률적 생성 모델로, 2013년에 제안되어서 이미지와 음성 데이터 생성에 많이 쓰였으며, 학습이 안정적이라는 장점이 있다. 트랜스포머 모델은 2xxx년 구글이 발표한 논문으로 언어모델의 성능을 비약적으로 향상시켰으며, 이후 GPT 시리즈, BERT 등 다양한 변형이 개발되어 현재 가장 강력한 언어생성 모델로 자리매김하였다. 특히 GPT-3는 2020년 공개 이후, 1750억 개의 매개변수(Parameter)를 갖고 있으며, 자연어 이해와 생성 능력에서 인간 수준에 근접하는 성과를 보여주고 있다. 생성 모델은 그동안 …