목차/차례
인공지능) 1. 역전파와 순전파에 대해서 설명 2. 손실함수는 어떤 특성을 갖는가 3. 옵티마이저가 무엇인지 설명 4. 위의 4가지의 연관관계를 5줄 이내로 설명
목차
1. 순전파(Forward Propagation)
2. 역전파(Backpropagation)
3. 손실함수(Loss Function)
4. 옵티마이저(Optimizer)
5. 순전파, 역전파, 손실함수, 옵티마이저의 연관관계
본문/내용
인공지능) 1. 역전파와 순전파에 대해서 설명 2. 손실함수는 어떤 특성을 갖는가 3. 옵티마이저가 무엇인지 설명 4. 위의 4가지의 연관관계를 5줄 이내로 설명
1. 순전파(Forward Propagation)
순전파(Forward Propagation)는 인공지능, 특히 신경망에서 입력 데이터를 네트워크를 통해 일련의 계산 과정을 거쳐 결과를 도출하는 과정이다. 먼저 입력층으로부터 출력층까지 연속적으로 가중치와 편향을 적용하여 최종 예측값을 산출하는 절차로 이루어진다. 이는 인공신경망의 예를 들어, 손글씨 숫자 인식 시스템에서 숫자 ‘7’을 입력했을 때 예측 확률이 95% 이상 나오는 것과 같은 경우의 결과를 생성하는 과정에 해당한다. 순전파 과정에서는 입력 데이터를 수치화하여 수학적 계산을 수행하며, 각 층마다 활성화 함수(예를 들어 ReLU나 시그모이드)를 거쳐서 정보가 전달된다. 예를 들어, 이미지 인식의 경우 28x28 픽셀의 픽셀값(784차원)이 입력되면, 여러 은닉층을 거쳐서 최종적으로 0과 1 사이의 확률 값으로 해당 이미지가 특정 클래스(고양이, 강아지 등)에 속하는지 예측한다. 이러한 과정을 통해 신경망은 입력에 따른 예측값을 산출하고, 이 값과 정답…