MCMC를 활용한 베이지안 추론 - 동전 던지기 문제의 확률 추정 (파이썬예제풀이 포함)

1.서론

앞면이 몇 번, 뒷면이 몇 번 나왔는지)를 통해 이 사전 확률을 업데이트하여 사후 확률(posterior probability)을 계산한다. 베이지안 추론의 큰 장점은 이 과정에서 우리가 공정하지 않은 동전일 가능성을 고려할 수 있다는 점이다. 동전을 여러 번 던져서 얻은 데이터를 기반으로 우리의 믿음을 조정할 수 있는 유연성을 제공한다. 즉, 우리가 동전의 성향을 처음에 얼마나 알고 있었던지와 관계없이 실험 결과를 통해 점점 더 정확한 확률 추정치를 얻을 수 있다. 이러한 점에서 베이지안 추론은 데이터 주도적인 접근 방식이며, 데이터가 제공하는 증거에 따라 우리의 믿음을 업데이트하는 과정을 강조한다. 그러나 베이지안 추론의 biggest challenge 중 하나는 사후 확률을 계산하는 것이다. 대부분의 경우, 사후 확률 분포를 직접적으로 계산하기가 복잡하거나 불가능하다. 이럴 때 자주 사용되는 방법이 MCMC이다. MCMC는 마르코프 체인과 몬테 카를로 방법을 결합하여 복잡한 확률 분포를 샘플링하는 기법으로, 베이지안 추론에서 보다 실제적인 사후 분포 추정을 가능하게 한다. 특히, MCMC는 우리가 복잡한 다차원 확률 공간에서 직접 샘플링을 수행할 …