레만-셰페 정리

이 기사는 검증을 위해 추가 인용이 필요합니다. 신뢰할 수 있는 출처에 인용을 추가하여 이 기사를 개선하는 데 도움을 주세요. 출처가 없는 재료는 문제가 발생하여 제거될 수 있습니다. 출처 찾기: "Lehmann–Scheffé theorem" – 뉴스 · 신문 · 책 · 학자 · JSTOR (2011년 4월) (본 템플릿 메시지 제거 방법 및 시기에 대해 알아보기)

통계학에서 Lehmann-Scheffé 정리는 완전성, 충분성, 유일성 및 최적의 편향되지 않은 추정의 개념을 결합하는 중요한 진술입니다.^[1] 이 정리는 주어진 미지의 양에 대해 편향되지 않고 완전하고 충분한 통계량을 통해서만 데이터에 의존하는 모든 추정량이 해당 양에 대한 편향되지 않은 고유한 최고의 추정량이라는 것을 나타냅니다. Lehmann-Scheffé 정리는 Erich Leo Lehmann과 Henry Scheffé의 이름을 따서 지어졌습니다.^[2][3]

T가 θ에 대한 완전한 충분한 통계량이고 E(g(T) = τ(θ)이면 g(T)는 τ(θ)의 균일한 최소 variance 편향 추정량(UMVUE)입니다.

진술

$X$ → ${\displaystyle X}$ 1${\displaystyle {,}_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle 2_{}\dots ,}$ X ${\displaystyle n_{}}$ ${\displaystyle {\vec {$X}}= $X_{1}, X_{2},\dots, X_{n}}$는 p.d.f(또는 이산형 케이스의 경우 p.m.$f$) f${\displaystyle (x}$ $:$ θ) ${\displaystyle$ f$($x :\theta )}를 갖는 분포에서 무작위 샘플이라고 가정합니다${\displaystyle .}$ ${\displaystyle \mathrm{여기}}$서$$θ ∈ ω ${\displaystyle$\theta \in \Omega }는 매개 변수 공간의 매개 변수입니다. Y = ${\displaystyle u}$( ${\displaystyle X}$ →${\displaystyle \stackrel{}{}}$) ${\displaystyle$Y = u$({\vec {X}})}$가 θ에 대한 충분한 ${\displaystyle {}_{}}$이고 $\{{\displaystyle f}$ Y${\displaystyle }$( y${\displaystyle }$:$$θ) : θ ∈ ω}${\displaystyle \{$f_{Y}(y :\theta ) :\theta \in \Omega \}에서 완전한 패밀리라고${\displaystyle {가정}_{}}$합니다. φ$:$ ${\displaystyle E}$ ⁡ [φ$(Y)]$$$= {\displaystyle \varphi :\operatorname {E} [\varphi(Y)] =\theta}를 θ하면 φ (Y) {\displaystyle \varphi(Y)}는 θ의 고유 MVUE입니다.

증명

Rao-Blackwell 정리에 의해, $Z$ ${\displaystyle$ Z$}$가 편향되지 않은 θ 추정량이면${\displaystyle }$φ ($):$= E ⁡ [Z ∣ Y] {\displaystyle \varphi (Y):$=\operatorname${E$}$ [Z\mid Y]}는 분산이 Z {\displaystyle Z}보다 크지 않다는 속성을 가진 $θ$의 편향되지 않은 추정기를 정의합니다.

이제 이 기능이 독특하다는 것을 보여줍니다. W ${\displaystyle W}$가 θ의 또 다른 후보 MVUE 추정기라고 가정합니다. 그런 다음 다시${\displaystyle }$ψ (Y) ${\displaystyle :}$=${\displaystyle }$E ⁡ [ W ∣ Y ] {\displaystyle \psi (Y):$=\operatorname${E$}$ [W\mid Y]}는 분산이 W {\displaystyle W}보다 크지 않다는 속성을 가진 $θ$의 편향되지 않은 추정기를 정의합니다. 그러면

${\displaystyle \operatorname {E} [\varphi(Y)-\psi(Y)]=0,\theta \in \Omega.}$

$\{{\displaystyle {}_{}}$ ${\displaystyle Y_{}\mathrm{y}}$:${\displaystyle }$θ) :${\displaystyle }$θ ∈ ω} {\displaystyle \{f_{Y}(y :\theta ):\theta \in \Omega \}는 완전한 패밀리입니다.

${\displaystyle \operatorname {E} [\varphi(Y)-\psi(Y)]=0\은 \varphi(y)-\psi(y)=0,\theta \in \Omega}를 의미합니다.$

따라서 함수$$φ ${\displaystyle$\varphi}는 다른 편향되지 않은 추정기보다 분산이 크지 않은 Y의 고유 함수입니다. 저희는$$φ(Y)${\displaystyle$\varphi(Y)}가 MVUE라고 결론지었습니다.

완전하지 않은 최소 충분 통계량을 사용하는 경우의 예제

2016년 Galili and Meilijson은 완전하지 않은 최소한의 충분한 통계를 사용했을 때 개선 가능한 Rao-Blackwell 개선의 예를 제공했습니다.^[4] Let ${\displaystyle X_{1},\ldots ,X_{n}}$ be a random sample from a scale-uniform distribution ${\displaystyle X\sim U((1-k)\theta ,(1+k)\theta ),}$ with unknown mean ${\displaystyle \operatorname {E} [X]=\theta }$ and known design parameter ${\displaystyle k\in (0,}$$displaystyle k\in (0,1$$θ$ {\displaystyle$$\theta}에 대한 "최상의" 편향되지 않은 추정치를 찾는 데 있어, X 1 {\$displaystyle$X_{1}}을${\displaystyle \mathrm{}}$θ${\displaystyle$ \theta}에$$대한 초기(조잡한) 편향되지 않은 $추정치$로$$한 다음 이를 개선하려고 노력하는 것은 당연합니다. ${\displaystyle X_{}}$ 1 ${\displaystyle X_{1}}$은 $T$ = ${\displaystyle (X}$ $),$ X (n) {\displaystyle T =\left (X_{(1)}, X_{(n)}\right)}의 함수가 아니므로, θ$$${\displaystyle$ \theta}(${\displaystyle 여기}$서 X$($1) = min i X i {\displaystyle X_{(1)} =\min _{i}X_{i}} 및 X(n) = max i {\displaystyle X_{(n)} =\max _{i}X_{i})에 대한 최소 충분한 통계량은 다음과 같이 Rao-Blackwell 정리를 사용하여 개선할 수 있습니다.

${\displaystyle {\hat {\theta }}_{RB}=\operatorname {E} _{\theta }[X_{1}\mid X_{(1)},X_{(n)}]={\frac {X_{(1)}+X_{(n)}}{2}}.}$

그러나 다음과 같은 편향되지 않은 추정치는 분산이 더 낮은 것으로 나타날 수 있습니다.

${\displaystyle {\hat {\theta}}_{LV}={\frac {1}{k^{2}{\frac {n-1}{n+1}}+1}}\cdot {\frac {(1-k)X_{(1)}+(1+k)X_{(n)}}{2}}.}$

그리고 실제로 다음과 같은 추정기를 사용하면 더욱 향상될 수 있습니다.

${\displaystyle {\hat {\theta}}_{\text{BAYES}}={\frac {n+1}{n}}\left[1-{\frac {{\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}-1}{\left({\frac {X_{(1)}(1+k)}{X_{(n)}(1-k)}}\right)^{n+1}-1}}\right]{\frac {X_{(n)}}{1+k}}}$

모델은 축척 모델입니다. 그런 다음 불변인 손실 함수에 대해 최적의 등변 추정량을 도출할 수 있습니다.^[5]

참고 항목

• 바수 정리
• 완전계층정리
• 라오-블랙웰 정리

참고문헌