이번 Post에서는 BERT Model을 이용하여, Text 분류 작업을 해보도록 하겠습니다. 영화 감상평이 긍정적인지 부정적인지 분류해 놓은 Data Set을 이용할 예정입니다.
실제로 사용할 Data Set은 Large Movie Review Dataset 입니다. 0. About BERT BERT 및 기타 Transformer Encoder Architecture는 Natural Language Process의 다양한 분야에서 좋은 성능을 보여주고 있습니다.
BERT or Transformer Encoder는 Natural Language Process의 다양한 분야에 사용할 수 있는 Vector Space를 계산해 줍니다. BERT(Bidirectional Encoder Representations from Transformers)는 이름에서 유추할 수 있듯이, Transformer Encoder를 사용하여 전체 Text의 각 Toekn의 앞/뒤 Token을 고려하여 Toke...
#
BERT
#
Preprocessing
#
pytorch
#
Representation
#
Sentence
#
Small
#
tensorflow
#
Text
#
text_dataset_from_directory
#
Token
#
torch
#
Transformer
#
버트
#
positional
#
Pooled
#
Optimizer
#
bert_model
#
Bidirectional
#
Classification
#
embedding
#
Encoder
#
GPT
#
IMDB
#
keras
#
KerasLayer
#
mask
#
model
#
NLP
#
트랜스포머
원문 링크 : BERT Text Classification
