Gibbs Sampler (깁스 샘플링)

Gibbs Sampler (Geman and Geman, 1984)는 MCMC Alogrithm의 특별한 방법 중 하나이다. 즉, Gibbs Sampler 는 Metropolis-Hastings 알고리즘의 특수한 경우라고 볼 수 있다.

그럼 이번 포스팅에서는 깁스 샘플링 방법에 대해 자세히 알아보자.먼저, 우리가 확률변수 X를 d개의 요소로 분해할 수 있다고 가정해 보자.이때, 깁스 샘플러에서 각 요소은 1.무작위(randomly) 또는 2.체계적(systematically)으로 선택되며, 각 샘플은 target density f(x)의 full conditional function에서 새로운 표본으로 업데이트된다.만약 x의 현재 반복 상태가 아래와 같이 주어지면 Gibbs sampler는 다음을 반복해서 Markov Chain을 형성하게 된다.1. Syst..........