트랜스포머(Transformer) 5분만에 이해하기: "Attention Is All You Need" 논문을 중심으로

주말에 심심해서 인공신경망 책을 폈습니다. 뇌는 Volatile memory입니다..

분명 제가 적어둔 필기도 있는데, 다 까먹었습니다. 그래서 한번 더 밑 빠진 독을 채웁니다....

꼭 필요한 것만요 (제대로 파려면, 몇 달 잡고 공부해야합니다....ㅎ) 모든 출처는 아래 논문으로 시작합니다. Attention Is All You Need, Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N.

Gomez, Lukasz Kaiser, Illia Polosukhin, https://arxiv.org/abs/1706.03762 2017년 Google Research에서 발표한 "Attention Is All You Need" 논문에서 소개된 트랜스포머(Transformer) 모델은 Natural Language Processing (NLP) 분야에 혁명적인 변화를 가져왔습니다. 기존 Recurr...