Combine Losses Technic 우선 우리가 regression task와 classification task를 동시에 training하고 싶다고 해보자. 그래서 아래와 같이 2개의 loss function을 쓰려고 한다. regression_loss = torch.nn.MSELoss() classification_loss = torch.nn.BCEWithLogitsLoss() 위 2개의 loss 들을 어떻게 하면 서로 함께 적용하면서 backward를 할 수 있을까?
가장 먼저 할 수 있는 생각은 2개의 loss를 합치고 평균을 내는 것이다. total_loss = (regression_loss + classification_loss) / 2 하지만 이 방법은 좋은 선택이 아니다. 왜냐하면 어느 손실 함수가 중요한 것인지를 정해주지 않았기 때문에 두 손실함수가 모델에 동일한 영향을 줄 것이다.
그렇다면 두 loss에 가중을 trainable 하게 두는 방법을 생각해볼 수 ...
