[일반화 선형 모형(Generalized Linear Model)] 2. Exponential Dispersion Family에 대하여

---

이번 포스팅에서는 Exponential Dispersion Family에 대해서 공부한 내용이다. 여기서 다루는 내용은 다음과 같다.

 

1. Exponential Dispersion Family의 정의

2. Exponential Dispersion Family의 예

 

---

   1. Exponetial Dispersion Family의 정의

Exponential Dispersion Family는 모수적 확률분포(Parametric Probability Distribution)의 모임으로써 확률밀도함수가 다음과 같은 형태를 취한다.

$$f(y ; \theta, \phi) = \exp \{[y\theta-b(\theta)]/a(\phi)+c(y,\phi)\}\tag{1}$$

여기서 $\theta$는 natural parameter, $\phi$는 dispersion parameter라고 한다. 만약 $a(\phi)=1$, $c(y, \phi)=c(y)$ 라면 Exponential Dispersion Family는 우리가 잘 알고 있는 Exponential Family이다. 즉, Exponential Dispersion Family는 Exponentail Family에서 dispersion parameter가 추가된, 다시 말하면 확장된 버전인 것이다.

반응형

---

   2. Exponential Dispersion Family의 예

1. 포아송분포(Poisson distribution)

 

확률변수 $Y$가 평균이 $\mu$인 포아송분포를 따른다고 하자. 그렇다면 $Y$의 확률밀도함수는 다음과 같다.

$$\begin{equation} \begin{split} f(y;\mu) &= \frac{e^{-\mu}\mu^y}{y!}  = \exp[y\log \mu-\mu-\log (y!)] \\ &= \exp[y\theta-\exp (\theta)-\log (y!)],\:\:y=0, 1, 2,\cdots, \end{split} \end{equation}$$

여기서 $\theta=\log{\mu}, b(\theta)=\exp(\theta), a(\phi)=1, c(y, \phi)=-\log(y!)$ 라고 한다면 (1)과 같이 표현할 수 있으므로 포아송분포는 Exponential Dispersion Family이다.

 

2. 정규분포(Normal distribution)

 

확률변수 $Y$가 평균이 $\mu$, 분산이 $\sigma^2$인 정규분포 $N(0, \sigma^2)$를 따른다고 하자. 그러면 $Y$의 확률밀도함수는 다음과 같다.

$$\begin{equation} \begin{split} f(y; \mu, \sigma^2) &= \frac{1}{\sqrt{2\pi}\sigma} \exp\left[ -\frac{(y-\mu)^2}{2\sigma^2}\right] \\ &= \exp \left[ \frac{y\mu-\frac{1}{2}\mu^2}{\sigma^2}-\frac{1}{2}\log(2\pi\sigma^2)-\frac{y^2}{2\sigma^2}\right] \end{split} \end{equation}$$

여기서 $\theta=\mu, b(\theta)=\frac{1}{2}\theta^2, a(\phi)=\sigma^2, c(y,\phi)=-\frac{1}{2}\log(2\pi\sigma^2)-\frac{y^2}{2\sigma^2}$ 라고 한다면 (1)과 같이 표현할 수 있으므로 정규분포는 Exponential Dispersion Family이다.

---