이 두 가지 MCMC 체계의 다른 응용 분야뿐만 아니라 상대적인 장점과 단점을 느끼려고합니다.
- 언제 그리고 왜 사용합니까?
- 하나는 실패하지만 다른 하나는 실패 할 수있는 경우 (예 : HMC는 적용 가능하지만 SMC는 적용되지 않는 위치 및 그 반대)
- 하나는, 부여 아주 순진, (즉, 일반적으로 하나이며 다른에 비해 하나의 방법에 유틸리티의 측정을 넣을 수 더 나은 )?
저는 현재 HMC에 관한 Betancourt의 훌륭한 논문을 읽고 있습니다.
답변
Hamiltonian Monte Carlo는 “이상한”형태의 연속적인 대상 분포를 잘 수행합니다. 목표 분포는 기본적으로 목표 분포의 기울기를 사용하여 어디로 가야하는지에 따라 차별화 할 수 있어야합니다. 완벽한 예는 바나나 모양의 기능입니다.
다음은 바나나 기능의 표준 메트로폴리스 헤이스팅스입니다. 합격률 66 % 및 매우 낮은 적용 범위.
HMC의 경우 : 적용 범위가 99 %로 우수합니다.
피(θ|와이1),피(θ|와이1,와이2),...,피(θ|와이1,와이2,...,와이엔)
예를 들어이 시퀀스는 SMC의 훌륭한 대상입니다.
SMC의 병렬 특성으로 인해 분산 / 병렬 컴퓨팅에 특히 적합합니다.
개요:
- HMC : 길고 이상한 대상에게 좋습니다. 비 연속 기능에서는 작동하지 않습니다.
- SMC : 복합적이고 비 연속적인 경우에 적합합니다. 높은 차원의 이상한 모양을 위해 느리게 수렴하거나 더 많은 컴퓨팅 성능을 사용할 수 있습니다.
출처 : 대부분의 이미지는 필자가 2 가지 방법 (해밀턴 순차 몬테카를로)을 결합한 논문 에서 발췌 한 것입니다. 이 조합은 매우 높은 차원에서도 우리가 던질 수있는 거의 모든 분포를 시뮬레이션 할 수 있습니다.