금융공학도의 BERT 정리 (1)

BERT 프로젝트를 하면서 느꼈던 점과 개념을 정리하기 위한 포스팅입니다 오류가 있을 수 있으니 피드백 부탁드립니다 1. 첫인상 .......

BERT가 뭔데? 안녕~ 난 버트야 BERT : Bidirectional Endoder Representations from Transformers “Attention is all you need(Vaswani et al., 2017)” 에서 소개된 Transformers 기반의 NLP 모델이다 양방향성 (자연어 처리에 적합) 인코더로만 이루어짐 (아직 무슨 의미인지 모름) 두 가지 특성이 핵심이다 https://arxiv.org/abs/1706.03762 2.

한 줄 요약 Transformers 기반의 (거의) 만능 (Pretrained) NLP 모델 3. 프로젝트 진행 플젝 초반 에이~ 뭐 그냥 구글링 예제 갖고 하면 되겠지~ 이미 학습된 모델도 오픈소스로 공유되어 있구만~ 히히~ 너 거기 서~ 플젝 중반 살려주시라요!!!

4. BERT의...

요청 처리 중입니다...

금융공학도의 BERT 정리 (1)

등록된 다른 글