딥러닝의 역사와 발전 다층 신경망, 하이퍼파라미터, 완전 연결 신경망

1. 서론

인공지능 분야에서 딥러닝은 컴퓨터가 방대한 데이터 속 복잡한 패턴을 학습하고 인간 수준의 지능을 구현하는 데 핵심적인 역할을 한다. 다층 신경망은 딥러닝의 기반을 이루는 인공 신경망으로 여러 층으로 구성되어 있으며 각 층은 입력 데이터를 변환하고 점차 추상화하는 기능을 수행한다. 이 보고서에서는 딥러닝의 역사적 배경부터 최근 발전 동향까지 폭넓게 다루고 핵심 개념들을 명확하게 설명하고자 한다. 딥러닝의 발전은 끊임없는 연구와 기술적 진보의 결과이며, 앞으로도 지속적인 발전이 예상된다.
1943년, 워렌 맥컬럭과 월터 피츠가 최초의 인공 뉴런 모델인 퍼셉트론을 제안하면서 딥러닝의 역사가 시작되었다. 퍼셉트론은 간단한 이진 분류 문제를 해결할 수 있었지만, 복잡한 문제에는 적용할 수 없다는 한계가 있었다. 1957년 프랭크 로젠블랫은 퍼셉트론 학습 규칙을 개발하여 퍼셉트론의 학습을 통한 성능 향상 가능성을 보여주었지만, 단층 퍼셉트론은 선형적으로 분리 가능한 문제만 해결할 수 있었고 이는 딥러닝 발전에 큰 제약이 되었다.
단층 퍼셉트론의 한계를 극복하기 위해 다층 퍼셉트론(MLP)이 등장했다. MLP는 여러 층으…