완전성(통계)

통계학에서 완전성은 관측된 데이터 집합에 대한 모형과 관련된 통계량의 속성입니다.본질적으로 모수의 서로 다른 값에 해당하는 분포가 구별되도록 합니다.

이는 식별 가능성의 개념과 밀접하게 관련되어 있지만, 통계 이론에서는 특정 최적성 결과가 도출되는 충분한 통계량에 부과되는 조건으로 종종 발견된다.

정의.

확률 분포가 θ에 의해 모수화된 모수 모형_θ P에 속하는 랜덤 변수 X를 고려합니다.

T는 통계량, 즉 랜덤 표본₁ X,......X로_n 측정 가능한 함수의 구성이라고 가정합니다.

통계량 T는 모든 측정 가능한 함수 ^[1]g에 대해 다음과 같은 경우 X의 분포에 대해 완전하다고 한다.

${\displaystyle {text{if}}\operatorname {E}_{\theta }(g(T))=0{\text{}\theta {P}_{\theta }(g(T)=0)=1{\text}(모든 }에 대해)$

이 함수가 유계가 되는 모든 측정 가능한 함수 g에 대해 유지된다면 통계 T는 X의 분포에 대해 유계적으로 완전하다고 한다.

예 1: 베르누이 모델

베르누이 모형은 완전한 ^[2]통계량을 인정한다.각_i X가 모수 p와 같은 베르누이 분포를 가지도록 X를 크기 n의 랜덤 표본으로 합니다.T를 표본에서 관측된 1의 개수라고 합니다. $\textstyle T=\sum _{i=1}^{n}X_{i}$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ $=$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ $\textstyle T=\sum _{i=1}^{n}X_{i}$ i $\textstyle T=\sum _{i=1}^{n}X_{i}$ \ $displaystyle$ \ $textstyle$ T=\ $sum$ _ ${i=1}^{n}X_{i$ T는 모수 n,p의 이항 분포를 갖는 X의 통계량이다.p에 대한 모수 공간이 (0,1)이면 T는 완전 통계량입니다.이것을 표시하려면 , 다음의 점에 주의해 주세요.

{\displaystyle \operatorname {E} _{p}(g(T)=\sum _{t=0}{g(t){n \choose t}(1-p)^{n}={n}{n}\sum _{t=0}^{g(t){n(t)\sum left} {p}\fr}^{t}}.

p도 1 - p도 0일 수 없습니다. $따라서$ 다음과 같은 경우에만 $E_{p}(g(T))=0$ ( $E_{p}(g(T))=0$ ( $E_{p}(g(T))=0$ ) $=$ 0 { $displaystyle$ E_ ${p$ }(g $(T$ ))= $0$ 입니다.

\displaystyle \sum _{t=0}^{n}g(t){n \choose t}\frac {p}{1-p}\right)^{t}=0.}

p/(1 - p)를 r로 나타내면 다음과 같이 됩니다.

\displaystyle \sum _{t=0}^{n}g(t){n \choose t}r^{t}=0.}

먼저 r의 범위가 양의 실수인지 관찰합니다.또한 E(g(T)는 r 단위의 다항식이므로, 모든 계수가 0인 경우에만 0과 같을 수 있습니다. 즉, 모든 t에 대해 g(t) = 0입니다.

모든 계수가 0이어야 한다는 결과는 r의 범위 때문에 얻어진 것입니다.파라미터 공간이 유한하고 다수의 원소가 n보다 작거나 같다면, r의 값을 대입하여 얻은 g(t)의 선형 방정식을 풀고 0과 다른 해를 구할 수 있다.예를 들어, n = 1이고 모수 공간이 {0.5}, 단일 관측치 및 단일 모수 값이면 T는 완전하지 않습니다.다음 정의에 따라 다음 사항을 준수하십시오.

g(t)=2(t-0.5),

t = 0 또는 t = 1의 경우 g(t)가 0이 아니지만 E(g(T)) = 0이다.

충분한 통계와의 관계

일부 파라메트릭 패밀리의 경우 완전한 통계량이 존재하지 않습니다(예: Galili 및 Meilijson 2016 참조).

예를 들어, 만약 당신이 N(θ,θ2)분배에서 그리고 다른 최소한의 충분한 통계의 기능, 2(∑ 나는 1정도 샘플 크기의 n>2그때(∑ 나는 1n원 X나는, ∑ 나는 갈1nX나는 2){\displaystyle \left(\sum_{i=1}^{n}X_{나는},\sum_{i=1}^{n}X_{나는}^{2}\right)}최소한의 충분한 통계도 동의한다. n $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ i ) $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ - $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ ( $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ + $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ ) $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ i $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ ( \ $sum _$ { i $= 1$ }^{ n _ { i $}$ X _ { i }^{ i }\ right )^2 $}$ - ( $n + 1$ )\ $sum _$ { i } $X _$ { $i$ }^{ $2}$ θ $2\left(\sum _{i=1}^{n}X_{i}\right)^{2}-(n+1)\sum _{i=1}^{n}X_{i}^{2}$ θ θ θ θ θ θ θ θ θ θ θ θ θ θ θ θ x = 0 、 0 x 。

최소한의 충분한 통계량이 있는 경우, 완전한 충분한 통계량도 최소한으로 충분합니다.그러나 완전한 통계가 존재하더라도 최소한으로 충분한 통계가 존재하지 않는 병적인 경우가 있다.

완전성의 중요성

완전성의 개념은 통계학, 특히 다음의 두 가지 수학적 통계학 이론에서 많이 적용된다.

레만-셰페 정리

완전성은 레만-셰페 정리(^[4]Lehmann-Scheffé theorem)에서 발생한다. 이 정리에서는 일부 매개변수 θ에 대해 편견이 없고 완전하며 충분한 통계량이 있다면 θ에 대한 최선의 평균-편향 추정치이다.즉, 이 통계량은 볼록 손실 함수에 대해 기대 손실이 더 작습니다. 손실 제곱 함수를 사용하는 많은 실제 적용에서 이 통계량은 기대 값이 동일한 추정치 중에서 평균 제곱 오차가 더 작습니다.

예를 들어, 최소의 충분한 통계량이 완전하지 않은 경우, 편중되지 않은 θ의 추정에 대한 몇 가지 대체 통계량이 존재하며, 그 중 일부는 다른 ^[5]통계량보다 분산이 낮습니다.

자세한 내용은 최소 분산 불편 추정기를 참조하십시오.

바수 정리

유계 완전성은 유계 완전하고 충분한 통계량은 보조 통계량과는 무관하다는 바수 [6]정리에서 발생한다.

바하두르의 정리

바하두르의 정리에서도 유계완전성이 나타난다.최소 충분 통계량이 하나 이상 존재하는 경우, 충분하고 제한적으로 완전한 통계량은 반드시 최소로 충분하다.바하두르 정리의 또 다른 형태는 유한 차원 좌표 공간에 대한 충분하고 유계적으로 완전한 통계량 또한 최소한으로 ^[7]충분하다는 것이다.

메모들

^ 영, G.A.와 스미스, R. L. (2005)통계적 추론의 본질(p.94)케임브리지 대학 출판부
^ 카셀라, G. 및 버거, R. L.(2001)통계적 추론 (p. 285–286)Duxbury Press.
^ Tal Galili & Isaac Meilijson (31 Mar 2016). "An Example of an Improvable Rao–Blackwell Improvement, Inefficient Maximum Likelihood Estimator, and Unbiased Generalized Bayes Estimator". The American Statistician. 70 (1): 108–113. doi:10.1080/00031305.2015.1100683. PMC 4960505. PMID 27499547.{{cite journal}}: CS1 maint: 작성자 파라미터 사용(링크)
^ Casella, George; Berger, Roger L. (2001). Statistical Inference (2nd ed.). Duxbury Press. ISBN 978-0534243128.
^ Tal Galili & Isaac Meilijson (31 Mar 2016). "An Example of an Improvable Rao–Blackwell Improvement, Inefficient Maximum Likelihood Estimator, and Unbiased Generalized Bayes Estimator". The American Statistician. 70 (1): 108–113. doi:10.1080/00031305.2015.1100683. PMC 4960505. PMID 27499547.{{cite journal}}: CS1 maint: 작성자 파라미터 사용(링크)
^ 카셀라, G. 및 버거, R. L.(2001)통계적 추론 (p.287).Duxbury Press.
^ "Statistical Inference Lecture Notes" (PDF). July 7, 2022.

레퍼런스

Basu, D. (1988). J. K. Ghosh (ed.). Statistical information and likelihood : A collection of critical essays by Dr. D. Basu. Lecture Notes in Statistics. Vol. 45. Springer. ISBN 978-0-387-96751-6. MR 0953081.
Bickel, Peter J.; Doksum, Kjell A. (2001). Mathematical statistics, Volume 1: Basic and selected topics (Second (updated printing 2007) of the Holden-Day 1976 ed.). Pearson Prentice–Hall. ISBN 978-0-13-850363-5. MR 0443141.
E. L., Lehmann; Romano, Joseph P. (2005). Testing statistical hypotheses. Springer Texts in Statistics (Third ed.). New York: Springer. pp. xiv+784. ISBN 978-0-387-98864-1. MR 2135927. Archived from the original on 2013-02-02.
Lehmann, E.L.; Scheffé, H. (1950). "Completeness, similar regions, and unbiased estimation. I." Sankhyā: the Indian Journal of Statistics. 10 (4): 305–340. doi:10.1007/978-1-4614-1412-4_23. JSTOR 25048038. MR 0039201.
Lehmann, E.L.; Scheffé, H. (1955). "Completeness, similar regions, and unbiased estimation. II". Sankhyā: The Indian Journal of Statistics. 15 (3): 219–236. doi:10.1007/978-1-4614-1412-4_24. JSTOR 25048243. MR 0072410.

[1] 영, G.A.와 스미스, R. L. (2005)통계적 추론의 본질(p.94)케임브리지 대학 출판부

[2] 카셀라, G. 및 버거, R. L.(2001)통계적 추론 (p. 285–286)Duxbury Press.

[3] Tal Galili & Isaac Meilijson (31 Mar 2016). "An Example of an Improvable Rao–Blackwell Improvement, Inefficient Maximum Likelihood Estimator, and Unbiased Generalized Bayes Estimator". The American Statistician. 70 (1): 108–113. doi:10.1080/00031305.2015.1100683. PMC 4960505. PMID 27499547.{{cite journal}}: CS1 maint: 작성자 파라미터 사용(링크)

[CB2001-4] Casella, George; Berger, Roger L. (2001). Statistical Inference (2nd ed.). Duxbury Press. ISBN 978-0534243128.

[5] Tal Galili & Isaac Meilijson (31 Mar 2016). "An Example of an Improvable Rao–Blackwell Improvement, Inefficient Maximum Likelihood Estimator, and Unbiased Generalized Bayes Estimator". The American Statistician. 70 (1): 108–113. doi:10.1080/00031305.2015.1100683. PMC 4960505. PMID 27499547.{{cite journal}}: CS1 maint: 작성자 파라미터 사용(링크)

[6] 카셀라, G. 및 버거, R. L.(2001)통계적 추론 (p.287).Duxbury Press.

[7] "Statistical Inference Lecture Notes" (PDF). July 7, 2022.

[1]

[2]

[4]

[5]

[7]

Search