이번에 소개할 논문은 2022 ICLR 에 제시된 CLIB 논문입니다. Continual Learning (CL) 분야의 online 설정 내에서 새로운 훈련 방법을 제안하며 보다 효과적으로 성능을 측정하는 방법과 모델의 손실값을 기준으로 데이터를 수집해서 메모리를 구성하는 방법에 대해 제안하는 논문입니다.
분류 문제를 다루고 있습니다. 해당 글은 노션으로 작성되었습니다.
Summary 본 논문에서는 online continual learning을 위한 sample-wise importance와 adaptive LR scheduling 방법을 제안합니다. Sample-wise importance는 각 샘플의 중요도를 계산하여 훈련에 사용되는 데이터를 선택하며, adaptive LR scheduling은 데이터에 최적화된 LR 스케줄링 방법을 제안합니다.
또한 모든 모듈을 오로지 메모리로 구성된 데이터를 사용해서 훈련함으로써 직접적인 셋업의 영향을 최소화 하는 것을 보였습니다. 아래는...
#
AnytimeInference
#
BlurryTask
#
ClassIncremental
#
ContinualLearning
#
AdaptiveLR
#
MachineLearning
#
MemoryManagement
#
ML
#
NeuralNetworks
#
OnlineLearning
#
Taskfree
#
딥러닝
#
블러리셋업
#
온라인지속학습
#
LearningTechniques
#
ICLR2022
#
iBlurry
#
AIConference
#
AIResearch
#
ArtificialIntelligence
#
CLIB
#
CL전략
#
DataScience
#
DeepLearning
#
EmpiricalValidation
#
I
#
테스크프리
원문 링크 : Online Continual Learning on Class Incremental Blurry Task Configuration with Anytime Inference
