Transformer Pipeline Transformer의 Pipeline은 간단히 아래의 그림으로 설명할 수 있다. 이 포스트에서는 토큰화된 데이터를 사용하여 모델 학습(Fine-Tuning)을 하기 전, 학습에 대한 설정을 담당하는 huggingface의 TrainingArguments에는 어떤 argument가 자주 사용되는지에 대해 다뤄보고자 한다.
TrainingArguments.__call__ https://huggingface.co/docs/transformers/main/en/main_classes/trainer#transformers.TrainingArguments training_args = TrainingArguments( output_dir='.
/results', learning_rate=5e-5, per_device_train_batch_size=8, per_device_eval_batch_size=8, num_train_epochs=3, warmup_ste...
