태그 보관물: maximum-likelihood

maximum-likelihood

우도 비 검정의 규칙 성 조건은 무엇입니까 가능성 비율 테스트의 점근 적 분포에

가능성 비율 테스트의 점근 적 분포에 대한 규칙 성 조건이 무엇인지 알려주시겠습니까?

내가 보는 모든 곳에서 ‘정기 조건 아래’또는 ‘확률 규칙에 따라’라고 쓰여 있습니다. 조건은 정확히 무엇입니까? 제 1 및 제 2 로그 우도 미분이 존재하고 정보 매트릭스가 0이 아닌가? 아니면 다른 것이 있습니까?



답변

필수 규칙 조건은 대부분의 중간 교과서에 나열되어 있으며 mle과 다릅니다. 다음은 하나의 파라미터 사례에 관한 것이지만 멀티 파라미터에 대한 확장은 간단합니다.

조건 1 : pdf는 고유합니다 (예 :

θ≠θ′⇒f(xi;θ)≠f(xi;θ′)

이 조건은 기본적으로 매개 변수가 pdf를 식별 함을 나타냅니다.

조건 2 : pdf는 모든 를 공통적으로 지원합니다.

θ

이것이 의미하는 것은 지원이 의존하지 않는다는 것입니다.

θ

조건 3 : 실제 매개 변수 인 점 은 일부 세트 의 내부 점입니다. Ω

θ0

Ω

마지막은 가 구간의 끝점에 나타날 가능성에 관한 것입니다 .

θ

이 세 가지는 함께 모수 에서 가능성이 최대화되고 방정식을 푸는 mle 임을 보장합니다.θ

θ0

θ^

∂l(θ)∂θ=0

일관성이 있습니다.

조건 4 다음의 PDF 의 함수로 두 번 미분이다θ

f(x;θ)

θ

조건 5 : 적분 는 의 함수로 적분 부호에서 두 번 구별 될 수 있습니다.θ

∫−∞∞f(x;θ) dx

θ

mle의 수렴 이론에서 중심적인 역할을하는 Fisher Information을 도출하려면 마지막 두 개가 필요합니다.

일부 저자에게는이 정도면 충분하지만 우리가 철저해야한다면 점막의 점근 적 정상 성을 보장하는 최종 조건이 추가로 필요합니다.

상태 6 다음에 PDF 세 배의 함수로서 미분이다 . 또한 모든 에 대해 상수 와 함수 가 존재 합니다.θ θ Ω c M ( x )

f(x;θ)

θ

θ∈Ω

c

M(x)

|∂3logf(x;θ)∂θ3|≤M(x)

와 모든 모두 의 지원| θ θ 0 | < c x X

Eθ0[M(X)]<∞

|θ−θ0|<c

x

X

본질적으로 마지막 조건은 우리가 에 관한 2 차 Taylor 확장의 나머지 부분이 확률 적으로 제한되어 있으므로 아무런 문제가 없다는 결론을 내릴 수 있습니다 .

θ0

그게 당신이 생각한 것입니까?


답변