Pytorch Error "one of the variables needed for gradient computation has been modified by an inplace inplace operation의 의미 특정 연산 이후에 연산에 사용된 Tensor 자기 자신의 값을 수정하는 연산을 의미한다. 대표적으로 skip connection을 할 때 이 연산을 사용하곤 한다.
이 연산을 수행하면 메모리를 절약할 수는 있지만 backward 미분 연산을 할 때 loss를 저장하지 않기 때문에 네트워크를 2개 이상 사용할 경우 문제가 발생할 수 있다. ※ pytorch operations Tensors — PyTorch Tutorials 1.11.0+cu102 documentation import torch import numpy as np Tensor Initialization Tensors can be initialized in various ways. Take a look at...
