exponential-family Archives

허락하다 $X_{1}, X_{2}, . . ., X_{n}$
$X_{1}, X_{2}, . . ., X_{n}$
$X_1, X_2, . . . , X_n$ pdf를 가진 iid 랜덤 변수

$f_{X} (x ∣ θ) = θ (1 + x)^{- (1 + θ)} I_{(0, \infty)} (x)$
$f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x)$

어디 $θ > 0$
$θ > 0$
$\theta >0$ . UMVUE에게 $\frac{1}{θ}$
$\frac{1}{θ}$
$\frac{1}{\theta}$ 분산을 계산

나는 UMVUE를 얻는 두 가지 방법에 대해 배웠습니다.

크 래머-라오로 바운드 (CRLB)
레만-쉐프 테레 옴

나는 두 가지 중 하나를 사용하여 이것을 시도 할 것입니다. 나는 여기서 무슨 일이 일어나고 있는지 완전히 이해하지 못한다는 것을 인정해야하며, 시도한 해결책을 예제 문제에서 근거로 삼고 있습니다. 나 그거있어 $f_{X} (x ∣ θ)$

f_{X} (x ∣ θ)

$f_X(x\mid\theta)$ 전체 1 모수 지수 군으로

$h (x) = I_{(0, \infty)}$

h (x) = I_{(0, \infty)}

$h(x)=I_{(0,\infty)}$ , $c (θ) = θ$

c (θ) = θ

$c(\theta)=\theta$ , $w (θ) = - (1 + θ)$

w (θ) = - (1 + θ)

$w(\theta)=-(1+\theta)$ , $t (x) = log (1 + x)$

t (x) = log (1 + x)

$t(x)=\text{log}(1+x)$

이후 $w^{'} (θ) = 1$

w^{'} (θ) = 1

$w'(\theta)=1$ 0이 아닌 $Θ$

Θ

$\Theta$ CRLB 결과가 적용됩니다. 우리는

log f_{X} (x ∣ θ) = log (θ) - (1 + θ) \cdot log (1 + x)

$\text{log }f_X(x\mid\theta)=\text{log}(\theta)-(1+\theta)\cdot\text{log}(1+x)$

\frac{\partial}{\partial θ} log f_{X} (x ∣ θ) = \frac{1}{θ} - log (1 + x)

$\frac{\partial}{\partial \theta}\text{log }f_X(x\mid\theta)=\frac{1}{\theta}-\text{log}(1+x)$

\frac{\partial^{2}}{\partial θ^{2}} log f_{X} (x ∣ θ) = - \frac{1}{θ^{2}}

$\frac{\partial^2}{\partial \theta^2}\text{log }f_X(x\mid\theta)=-\frac{1}{\theta^2}$

그래서

I_{1} (θ) = - E (- \frac{1}{θ^{2}}) = \frac{1}{θ^{2}}

$I_1(\theta)=-\mathsf E\left(-\frac{1}{\theta^2}\right)=\frac{1}{\theta^2}$

그리고 편견이없는 추정기의 CRLB $τ (θ)$

τ (θ)

$\tau(\theta)$ 이다

\frac{[τ^{'} (θ)]^{2}}{n \cdot I_{1} (θ)} = \frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{[\tau'(\theta)]^2}{n\cdot I _1(\theta)} = \frac{\theta^2}{n}[\tau'(\theta)]^2$

이후

\sum_{i = 1}^{n} t (X_{i}) = \sum_{i = 1}^{n} log (1 + X_{i})

$\sum_{i=1}^n t(X_i)=\sum_{i=1}^n \text{log}(1+X_i)$

그런 다음 선형 함수 $\sum_{i = 1}^{n} log (1 + X_{i})$

\sum_{i = 1}^{n} log (1 + X_{i})

$\sum_{i=1}^n \text{log}(1+X_i)$ 또는 이와 동등한 선형 함수 $\frac{1}{n} \sum_{i = 1}^{n} log (1 + X_{i})$

\frac{1}{n} \sum_{i = 1}^{n} log (1 + X_{i})

$\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$ , 기대의 CRLB를 달성하므로 기대의 UMVUE가됩니다. 이후 $E (log (1 + X)) = \frac{1}{θ}$

E (log (1 + X)) = \frac{1}{θ}

$\mathsf E(\text{log}(1+X))=\frac{1}{\theta}$ 우리는 UMVUE의 $\frac{1}{θ}$

\frac{1}{θ}

$\frac{1}{\theta}$ 이다 $\frac{1}{n} \sum_{i = 1}^{n} log (1 + X_{i})$

\frac{1}{n} \sum_{i = 1}^{n} log (1 + X_{i})

$\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$

자연스러운 매개 변수화를 위해 $η = - (1 + θ) \Rightarrow θ = - (η + 1)$

η = - (1 + θ) \Rightarrow θ = - (η + 1)

$\eta=-(1+\theta)\Rightarrow \theta=-(\eta+1)$

그때

V a r (log (1 + X)) = \frac{d}{d η} (- \frac{1}{η + 1}) = \frac{1}{(η + 1)^{2}} = \frac{1}{θ^{2}}

$\mathsf{Var}(\text{log}(1+X))=\frac{d}{d\eta}\left(-\frac{1}{\eta+1}\right)=\frac{1}{(\eta+1)^2}=\frac{1}{\theta^2}$

이것이 유효한 해결책입니까? 더 간단한 접근법이 있습니까? 이 방법은 $E (t (x))$

E (t (x))

$\mathsf E(t(x))$ 당신이 추정하려고하는 것과 같습니까?

답변

당신의 추론은 대부분 맞습니다.

샘플의 조인트 밀도 $(X_{1}, X_{2}, \dots, X_{n})$

(X_{1}, X_{2}, \dots, X_{n})

$(X_1,X_2,\ldots,X_n)$ 이다

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{θ^{n}}{{(\prod_{i = 1}^{n} (1 + x_{i}))}^{1 + θ}} 1_{x_{1}, x_{2}, \dots, x_{n} > 0}, θ > 0 \\ ⟹ \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = n \ln (θ) - (1 + θ) \sum_{i = 1}^{n} \ln (1 + x_{i}) + \ln (1_{min_{1 \leq i \leq n} x_{i} > 0}) \\ ⟹ \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{n}{θ} - \sum_{i = 1}^{n} \ln (1 + x_{i}) \\ = - n (\frac{\sum_{i = 1}^{n} \ln (1 + x_{i})}{n} - \frac{1}{θ}) \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{\theta^n}{\left(\prod_{i=1}^n (1+x_i)\right)^{1+\theta}}\mathbf1_{x_1,x_2,\ldots,x_n>0}\qquad,\,\theta>0 \\\\\implies \ln f_{\theta}(x_1,x_2,\ldots,x_n)&=n\ln(\theta)-(1+\theta)\sum_{i=1}^n\ln(1+x_i)+\ln(\mathbf1_{\min_{1\le i\le n} x_i>0}) \\\\\implies\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{n}{\theta}-\sum_{i=1}^n\ln(1+x_i) \\\\&=-n\left(\frac{\sum_{i=1}^n\ln(1+x_i)}{n}-\frac{1}{\theta}\right) \end{align}$

따라서 우리는 형태로 점수 함수를 표현했습니다

\begin{matrix} (1) & \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) = k (θ) (T (x_{1}, x_{2}, \dots, x_{n}) - \frac{1}{θ}) \end{matrix}

$\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)=k(\theta)\left(T(x_1,x_2,\ldots,x_n)-\frac{1}{\theta}\right)\tag{1}$

이것은 Cramér-Rao 불평등의 평등 조건입니다.

확인하는 것은 어렵지 않습니다

\begin{matrix} (2) & E (T) = \frac{1}{n} \sum_{i = 1}^{n} \underset{= 1 / θ}{\underset{⏟}{E (\ln (1 + X_{i}))}} = \frac{1}{θ} \end{matrix}

$E(T)=\frac{1}{n}\sum_{i=1}^n\underbrace{E(\ln(1+X_i))}_{=1/\theta}=\frac{1}{\theta}\tag{2}$

에서 $(1)$

(1)

$(1)$ 과 $(2)$

(2)

$(2)$ 우리는 결론을 내릴 수 있습니다

통계 $T (X_{1}, X_{2}, \dots, X_{n})$
$T$

이 두 가지 사실은 함께 $T$

T

$T$ 의 UMVUE입니다 $1 / θ$

1 / θ

$1/\theta$ .

두 번째 글 머리 기호는 실제로 $T$

T

$T$ Cramér-Rao 하한에 도달 $1 / θ$

1 / θ

$1/\theta$ .

실제로, 당신이 보여준 것처럼

E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = - \frac{1}{θ^{2}}

$E_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=-\frac{1}{\theta^2}$

이것은 전체 샘플에 대한 정보 기능이

I (θ) = - n E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = \frac{n}{θ^{2}}

$I(\theta)=-nE_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=\frac{n}{\theta^2}$

그래서 Cramér-Rao 하한 $1 / θ$

1 / θ

$1/\theta$ 따라서 UMVUE의 분산은

Var (T) = \frac{{[\frac{d}{d θ} (\frac{1}{θ})]}^{2}}{I (θ)} = \frac{1}{n θ^{2}}

$\operatorname{Var}(T)=\frac{\left[\frac{d}{d\theta}\left(\frac{1}{\theta}\right)\right]^2}{I(\theta)}=\frac{1}{n\theta^2}$

여기서 우리는 Cramér-Rao 불평등의 목록을 이용했습니다. $f$

f

$f$ 에 의해 매개 변수 $θ$

θ

$\theta$ 통계량 인 경우 (CR 불평등의 규칙적 조건을 유지한다고 가정) $T$

T

$T$ 편견이 없다 $g (θ)$

g (θ)

$g(\theta)$ 일부 기능 $g$

g

$g$ 그것이 CR 불평등의 평등 조건을 만족한다면, 즉

\frac{\partial}{\partial θ} \ln f_{θ} (x) = k (θ) (T (x) - g (θ))

$\frac{\partial}{\partial\theta}\ln f_{\theta}(x)=k(\theta)\left(T(x)-g(\theta)\right)$ 그런 다음 $T$

T

$T$ 의 UMVUE 여야합니다 $g (θ)$

g (θ)

$g(\theta)$ . 따라서이 논쟁은 모든 문제에서 작동하지는 않습니다.

또는 Lehmann-Scheffe 정리를 사용하면 다음과 같이 말할 수 있습니다. $T = \frac{1}{n} \sum_{i = 1}^{n} \ln (1 + X_{i})$

T = \frac{1}{n} \sum_{i = 1}^{n} \ln (1 + X_{i})

$T=\frac{1}{n}\sum_{i=1}^{n} \ln(1+X_i)$ 의 UMVUE입니다 $1 / θ$

1 / θ

$1/\theta$ 편견이 없기 때문에 $1 / θ$

1 / θ

$1/\theta$ 분포 제품군에 대한 충분한 통계입니다. 그 $T$

T

$T$ 1- 파라미터 지수 패밀리로 샘플의 조인트 밀도의 구조로부터 충분히 경쟁적이다. 그러나 분산 $T$

T

$T$ 직접 찾기가 약간 까다로울 수 있습니다.

How IT

언제든지 물어보세요.

태그 보관물: exponential-family

의 UMVUE 찾기 모수 지수 군으로 h(x)=I(0,∞)h(x)=I(0,∞)h(x)=I_{(0,\infty)}, c(θ)=θc(θ)=θc(\theta)=\theta, w(θ)=−(1+θ)w(θ)=−(1+θ)w(\theta)=-(1+\theta),

답변

답변