베이즈 추론의 목적은 모수의 분포를 추론하는 것입니다. 모수를 $\theta$ 라고 놓으면, 모수의 확률분포인 $f_{\theta}(\theta)$를 찾는 방법이 베이즈추론입니다. 모수를 추론하기 위해 데이터가 필요합니다. 데이터는 모집단에서 추출된 표본입니다. 표본을 벡터를 $\vec{X}$라고 놓겠습니다. 어렵게 생각하지 않아도 됩니다. 표본의 원소를 벡터형태로 표현한 것 뿐입니다. $\vec{X}$가 따르는 확률분포를 $f_{X}(\vec{X})$ 라고 놓겠습니다.
이번시간에는 베이즈 추론의 절차를 간단히 설명하고, 다음시간 부터 수식을 이용해서 설명하겠습니다. 우리는 모수의 확률분포 $f_{\theta}(\theta)$를 알고 싶은 상황입니다. 뭔지 모르므로 일단 특정한 분포를 가정합니다. 베타(1,1)분포나 정규분포 등이 사용될 수 있습니다.
우리가 모집단에서 표본을 추출하여 $\vec{X}_{1}$이라는 데이터를 확보했다고 합시다. 이 데이터를 이용하여 아래와 같은 확률분포를 정의할 수 있습니다.
$f_{\theta | \vec{X}=\vec{X}_{1}}(\theta|\vec{X}_{1})$
$\vec{X}_{1}$이라는 데이터가 발생했을 때 $\theta$의 분포를 뜻합니다. 이와 같이 데이터를 이용해서 $\theta$의 분포를 갱신해나갈 수 있습니다. 이런 방식으로 $\theta$ 의 분포를 찾아가는 과정을 베이즈추론이라고 부릅니다.
용어를 몇가지 알아봅시다. $\theta$의 분포를 처음에 $f_{\theta} (\theta)$ 라고 가정했는데요. $f_{\theta} (\theta)$ 를 사전분포라고 부릅니다. ‘정보를 얻기 전’에 가정한 분포라는 뜻입니다. 정보를 얻은 후의 분포를 사후분포라고 부릅니다. $f_{\theta | \vec{X}=\vec{X}_{1}}(\theta|\vec{X}_{1})$가 사후분포입니다.
다음시간부터는 베이즈추론의 수학적 절차를 알아보겠습니다.
댓글