Name: 트랜스포머 - 올레포트
SKU: 25989226
Price: 3000 KRW
Availability: InStock

레포트 > 기타

인쇄

바로가기

파일

[보고서]트랜스포머.docx [Size : 26 Kbyte ]

분량 16 Page

가격 3,000 원

카트

다운받기

네이버 ID로
다운 받기

카카오 ID로
다운 받기

구글 ID로
다운 받기

페이스북 ID로
다운 받기

뒤로

목차/차례

1.기존 방법의 문제점
2.트랜스포머의 정의
3.트랜스포머의 특징
4.기존 방법 대비 트랜스포머의 장점
5.트랜스포머의 구조 및 역할
6.트랜스포머 인코더의 구조
7.멀티헤드 셀프 어텐션이란
8.트랜스포머에서 쿼리, 키, 밸류의 사용특성
9.트랜스포머의 어텐션 계산 방법
10.트랜스포머 디코더의 구조
11.마스크드 멀티헤드 셀프 어텐션
결론
서론
트랜스포머(Transformer)는 자연어 처리 분야에서 혁신적인 변화를 가져온 딥러닝 모델로, 2xxx년에 Vaswani et al. 에 의해 제안되었다. 이 모델은 순차적 데이터를 처리하는 기존의 RNN(Recurrent Neural Networ및 LSTM(Long Short-Term Memory) 모델과는 다른 방식으로 정보를 처리함으로써, 병렬 처리의 효율성을 극대화하고 긴 의존성을 더 효과적으로 학습할 수 있는 구조를 갖추고 있다. 트랜스포머 모델의 핵심적인 아이디어는 `어텐션 메커니즘(attention mechanism)`이다. 이 메커니즘을 통해 모델은 입력 시퀀스의 각 단어가 다른 단어에 얼마나 주목해야 하는지를 학습하게 된다. 이를 통해 모델은 단순히 이전 단어에만 의존하는 것이 아니라, 문장 전체의 맥락을 고려하여 단어 간의 관계를 파악할 수 있다. 이러한 특성 덕분에 트랜스포머는 정보의 전달과 표현이 유연해지고, 복잡한 의미의 뉘앙스를 잘 포착하게 된다. 트랜스포머 구조는 인코더와 디코더로 나뉘어 있다. 인코더는 입력 시퀀스를 받아 각 단어의 임베딩을 생성하고, 이 임베딩을 변환하여 고차원 공간으로 매핑한다. 반면, 디코더는 인코더의 출력을 바탕으로 최종 결과를 생성한다. 이 과정에서 인코더와 디코더 간의 어텐션 스코어는 서로가 어떻게 연결되어 있는지를 나타내며, 이를 통해 모델은 정보를 선택적으로 강조하고 압축할 수 있는 능력을 가지게 된다. 또한 트랜스포머는 `멀티 헤드 어텐션(multi-head attention)`이라는 개념을 통해 다양한
...

본문/내용

1.기존 방법의 문제점

기존의 자연어 처리 방법들은 여러 한계를 가지고 있어 이로 인해 다양한 문제점이 나타난다. 전통적인 방법들, 주로 LSTM(Long Short-Term Memory)이나 RNN(Recurrent Neural Network) 기반의 모델들이 주를 이루었던 시기에 비해 이러한 방법들은 긴 의존성을 처리하는 데 어려움을 겪는다. 자연어의 특성상 단어 간의 관계는 종종 멀리

📝 Regist Info

I D : daso******
Date : 2025-07-23
FileNo : 25989226

Cart