크기 의 iid 표본에 대해 규칙 성 조건이 주어진 경우 MLE 는 실제 모수 및 그 분포의 의 일관된 추정값 이며, 피셔 정보 :θ θ 0n

$n$

$n$θ^

$\hat{\theta }$

$\hat{\theta}$θ0

${\theta }_0$

$\theta_0$

I1(θ0)I(θ)

$$\sqrt{n}\left(\hat{\theta}-\theta_0\right) \rightarrow \mathcal{N}\left(0,\frac{1}{\mathcal{I}_1(\theta_0)}\right)$$
여기서 은 단일 샘플의 Fisher 정보입니다. MLE 에서 관측 된 정보 는 예상되는 정보와 무관하게 경향이 있으므로 다음과 같이 신뢰 구간을 계산할 수 있습니다 (예 : 95 %)I1(θ0)

${\mathcal{I}}_1({\theta }_0)$

$\mathcal{I}_1(\theta_0)$I(θ^)

$I(\hat{\theta })$

$I(\hat{\theta})$

$$\hat{\theta} \pm \frac{1.96}{\sqrt{nI_1\left(\hat\theta\right)}}$$

예를 들어, 가 0으로 잘린 포아송 변수 인 경우 MLE (수적으로 계산해야 함) 측면에서 관측 된 정보에 대한 공식을 얻을 수 있습니다.
X

$X$

$X$

$$\newcommand{\e}{\mathrm{e}}\newcommand{\d}{\operatorname{d}}f(x) = \frac{\e^{-\theta}\theta^x}{x!(1-e^{-\theta})}$$

$$\ell(\theta)=-\theta+ x\log\theta -\log(1-\e^{-\theta})$$

$$\frac{\d\ell(\theta)}{\d\theta} = -1 +\frac{x}{\theta} - \frac{\e^{-\theta}}{1-\e^{-\theta}}$$

$$I_1\left(\hat{\theta}\right)=-\frac{\d^2\ell\left(\hat\theta\right)}{\left(\d\hat\theta\right)^2} = \frac{x}{\hat\theta} - \frac{\e^{-\hat\theta}}{\left(1-\e^{-\hat{\theta}}\right)^2}$$

규칙 성 조건에서 제외되는 주목할만한 사례는 다음과 같습니다.

• 매개 변수 는 데이터의 지원을 결정합니다. 예를 들어 Naught와 사이의 균일 한 분포에서 샘플링θ
  $\theta$

  $\theta$θ

  $\theta$

  $\theta$

• 샘플 크기에 따라 방해 매개 변수의 수가 증가합니다.

---

답변