인공지능 LSTM 발표자료

1. LSTM의 등장 배경

LSTM(Long Short-Term Memory)은 1997년 세 가지의 연구자, 헐시히 워치스, 지오프리 훅, 그리고 요셉 슈미트에 의해 도입되었다. LSTM의 등장은 주로 전통적인 순환신경망(RNN)의 한계에서 비롯된다. RNN은 시퀀스 데이터와 같이 시간적 연속성이 있는 데이터를 처리하는 데 유용하지만, 긴 시퀀스를 다룰수록 `기울기 소실` 문제에 직면하게 된다. 이 문제는 네트워크가 과거의 정보를 잊어버리거나 그 정보를 효과적으로 반영하지 못하게 만든다. 결과적으로 RNN은 긴 시퀀스를 위한 학습에는 적합하지 않다. 이러한 문제를 해결하기 위해 LSTM은 고안되었다. LSTM은 전통적인 RNN 구조에 메모리 셀과 게이트 구조를 추가하여 과거의 정보를 더 효과적으로 기억하고 필요한 때에 불러올 수 있도록 설계되었다. 메모리 셀은 정보를 장기적으로 유지할 수 있는 능력을 제공하며, 게이트는 정보의 흐름을 조절한다. LSTM의 게이트는 입력 게이트, 출력 게이트, 망각 게이트로 구성되는데, 이들은 각각 어떤 정보를 기억할지, 어떤 정보를 출력할지, 그리고 어떤 정보를 잊을지를 결정하는 역할을 한다. LSTM은 이러한 구조 덕분에 긴 시퀀스를 효율적…