Adversarial Propagation(advprop)

사람이 보았을 때는 별 차이가 없어보이지만, 컴퓨터가 보았을 때는 아주 큰 차이가 있도록 만드는 것이 Adversarial Attack이다. EXPLAINING AND HARNESSING ADVERSARIAL EXAMPLES PAPER https://www.researchgate.net/figure/Example-of-a-common-adversarial-attack-on-image-classifiers-The-adversarial-perturbation_fig2_336809813 Adversarial attack을 거친 이미지는, 바로 위의 사진의 경우에도 사람의 눈에는 분명히 Stop sign이지만, 컴퓨터가 봤을 때는 Stop sign이 아니게 된다.

이러한 Attack을 주어서 적대적 학습을 하고, Adversarial attack을 준 이미지를 생성한다음, clean한 이미지와 Adversarial attack 이미지를 함께 학습하는 과정이 Adversarial Propag...