최대 가능성 추정기-신뢰 구간 실제 모수에 대한 점근 적

해당 모수에 대한 MLE부터 시작하여 실제 모수에 대한 점근 적 신뢰 구간을 어떻게 구성 할 수 있습니까?



답변

크기 의 iid 표본에 대해 규칙 성 조건이 주어진 경우 MLE 는 실제 모수 및 그 분포의 의 일관된 추정값 이며, 피셔 정보 :θ θ 0

n

θ^

θ0

I1(θ0)I(θ)

n(θ^−θ0)→N(0,1I1(θ0))


여기서 은 단일 샘플의 Fisher 정보입니다. MLE 에서 관측 된 정보 는 예상되는 정보와 무관하게 경향이 있으므로 다음과 같이 신뢰 구간을 계산할 수 있습니다 (예 : 95 %)

I1(θ0)

I(θ^)

θ^±1.96nI1(θ^)

예를 들어, 가 0으로 잘린 포아송 변수 인 경우 MLE (수적으로 계산해야 함) 측면에서 관측 된 정보에 대한 공식을 얻을 수 있습니다.

X

f(x)=e−θθxx!(1−e−θ)

ℓ(θ)=−θ+xlog⁡θ−log⁡(1−e−θ)

d⁡ℓ(θ)d⁡θ=−1+xθ−e−θ1−e−θ

I1(θ^)=−d2⁡ℓ(θ^)(d⁡θ^)2=xθ^−e−θ^(1−e−θ^)2

규칙 성 조건에서 제외되는 주목할만한 사례는 다음과 같습니다.

  • 매개 변수 는 데이터의 지원을 결정합니다. 예를 들어 Naught와 사이의 균일 한 분포에서 샘플링
    θ

    θ

  • 샘플 크기에 따라 방해 매개 변수의 수가 증가합니다.