코크란의 정리

통계학에서는 윌리엄 G가 고안한 코크란의 정리. Cochran은 분산 분석에 사용되는 통계량의 확률 분포와 관련된 결과를 정당화하기 위해 사용되는 정리다.^[1][2]

성명서

Suppose U₁, ..., U_N are i.i.d. standard normally distributed random variables, and ${\displaystyle B^{(1)},B^{(2)},\ldots ,B^{(k)}}$are positive semidefinite matrices with ${\displaystyle \sum _{i=1}^{k}B^{(i)}$$=$${\displaystyle {I\_\mathrm{}}_{}}$${N$ 더 나아가 ${\displaystyle r}$ 1${\displaystyle {}_{}}$+ ${\displaystyle \cdots }$+ ${\displaystyle r_{}}$ ${\displaystyle {}_{}}$= N ${\displaystyle r_{1}+\cdots +r_{k}=N$ 여기서 r은_i $B{\displaystyle {}^{}}$( $){\$라고 가정하면 다음과 같다.

${\displaystyle Q_{i}=\sum _{j=1}^{{n}^{n}^{n}U_{j_{j,\ell }^{(i)}U_{\ell}}$

그래서 Q는_i 2차 형태라고 코크란의 정리에서는 Q는_i 독립적이며, 각 Q는_i 자유도가 r인_i 카이-제곱 분포를 가진다.^[1]

덜 공식적으로, 이 선형 결합이 선형적으로 독립적이면 Q를_i 정의하는 제곱합에 포함된 선형 결합의 수입니다.

증명

먼저 행렬⁽ⁱ⁾ B가 동시에 대각선이 될 수 있고 0이 아닌 고유값이 모두 +1과 같다는 것을 보여준다.그리고 나서 우리는 그것들을 대각선으로 배열하는 벡터 베이스를 사용하여 그들의 특성 함수를 단순화하고 그들의 독립성과 분포를 보여준다.^[3]

각 행렬 B는⁽ⁱ⁾ 순위 r을_i 가지며 따라서 r_i 비 0 고유값을 가진다.For each i, the sum ${\displaystyle C^{(i)}\equiv \sum _{j\neq i}B^{(j)}}$ has at most rank ${\displaystyle \sum _{j\neq i}r_{j}=N-r_{i}}$. Since ${\displaystyle B^{(i)}+C^{(i)}$$=I_{N\times$ N$\},$ C의⁽ⁱ⁾ 순위는_i N - r이다.

따라서 B와⁽ⁱ⁾ C는⁽ⁱ⁾ 동시에 대각선화 될 수 있다.이것은 B를⁽ⁱ⁾ 먼저 대각선으로 표시하면 알 수 있다.이 기준에서, 그것은 다음과 같은 형식이다.

${\displaystyle{\begin{bmatrix}\lambda _{1}&, 0&, 0&, \cdots, \cdots &,&0\\0&, \lambda _{2}&, 0&, \cdots &, \cdots &,&0\\0&, 0&, \ddots & &,&&&\vdots \\\vdots, \vdots & &,&\lambda _{r_{나는}}&&\\\vdots, \vdots & &,&&0&, \\0&, \vdots &,&&&\ddots, 0& \\0&.앰프, \ldots &,&&&0\end{bmatrix}}.}$

따라서 하위$({\displaystyle N}$- ${\displaystyle {}_{}}$ ${\displaystyle i_{}}$) ${\displaystyle(N-r_{i})$ 행은$$ 0이 된다.Since ${\displaystyle C^{(i)}=I-B^{(i)}}$, it follows that these rows in C⁽ⁱ⁾ in this basis contain a right block which is a ${\displaystyle (N-r_{i})\times (N-r_{i})}$ unit matrix, with zeros in the rest of these rows.그러나 C가⁽ⁱ⁾ N - r_i 등급을 가지고 있기 때문에 다른 곳에서는 0이 되어야 한다.따라서 이 기준에서도 대각선이다.따라서⁽ⁱ⁾ B와⁽ⁱ⁾ C의 모든 0이 아닌 고유값은 +1이다.게다가, 위의 분석 C(1))에게 B를은 대각선 기준에(2)+;2B(j){\displaystyle C^{(1)}=B^{(2)}+\sum _{j>2}B^{(j)}}. 이러한 기준에 한(N− r1)×(N− r1){\displaystyle(N-r_{1})\times(N-r_{1})}의 C({\displaystyle C^{(1)}}은 정체성∑ j를 반복할 수 있다.순진ctor space, 따라서 B와⁽²⁾ > ( ${\${j$}2}B^{(j)}}}$ 둘 다 이 벡터 공간(따라서 B와⁽¹⁾ 함께)에서 동시에 대각선이 가능하다.반복에 의해 모든 B-s는 동시에 대각선이 가능하다.

따라서 모든 $i$에 대해$$직교 행렬 S {\$displaystyle i}$, ${\displaystyle S^{}}$ ${\displaystyle T^{}{}^{}}$ B${\displaystyle {}^{}}$( i${\displaystyle {}^{}}$) ${\displaystyle {}^{}}$ ${\displaystyle \equiv }$ B${\displaystyle {}^{}}$( ${\displaystyle i^{}}$) ${\displaystyle {\mathrm{\prime }}^{}}$ ${\$과 같은$$ 직교 행렬 S ${\displaystystyle$ S$}$이 $존재$한다.S\equiv B^{(나는)\prime}}, 어디서 입력 B), 지수와 y(나는)′{\displaystyle B_{x, y}^{(나는)\prime}})대각선이 = y{\displaystyle x=y},∑ j=1나는 − 1rj<>x)y≤ ∑ j=1나는이었고 넌 결코 모르네 j{\displaystyle \sum_{j=1}^{i-1}r_{j}<, x=y\leq \sum _{j=1}^{나는}r_{j}},와 1, 어떠한 입국과 함께.다른.지수는 0과 같다.

Let ${\displaystyle U_{i}^{\prime }}$ denote some specific linear combination of all ${\displaystyle U_{i}}$ after transformation by ${\displaystyle S}$. Note that ${\displaystyle \sum _{i=1}^{N}(U_{i}^{\prime })^{2}=\sum _{i=1}^{N}U_{i}$$^{2}}:$ 직교 행렬 S의 길이 보존 때문에$$, 선형 변환의 Jacobian은 선형 변환 그 자체와 관련된 행렬이며, 직교 행렬의 결정 인자는 계량 1을 가지고 있다.

Q의_i 특징은 다음과 같다.

${\displaystyle {\begin{aigned}\varphi _{i}(t)={}&(2\pi )^{-N/2}\int du_{1}\int du_{2}\cdots \int du_{ntdu_{{}}}}}N}e^{itQ_{나는}}\cdot e^{-u_{1}^{2}/2}\cdot e^{-u_{2}^{2}/2};(2\pi)^ᆵ\left(\prod_{j=1}^{N}\intdu_{j}\right)e^{itQ_{나는}}\cdot e^{-\sum_{j=1}^{N}u_{j}^{2}/2}\\={}&,(2\pi)^ᆼ\left(\prod_{j=1}^{N}\intdu_{j}^{}\prime \right)e^{it\cdot \sum_{m=r_{1}+\cdots +r_{i-1}+1}+r_{나는}}(u_{m}^{\prime})^ ^{r_{1}+\cdots e^{-u_{N}^{2}/2}\\={}& \cdots.{2}}\cdot e^{-\sum _{j=1}^{N}{u_{j}^{\prime }}^{2}/2}\\={}&(2\pi )^{-N/2}\left(\int e^{u^{2}(it-{\frac {1}{2}})}du\right)^{r_{i}}\left(\int e^{-{\frac {u^{2}}{2}}}du\right)^{N-r_{i}}\\={}&(1-2it)^{-r_{i}/2}\end{aligned}}}$

이것은 자유도가 r인_i 카이-제곱 분포의 푸리에 변환이다.따라서 이것은 Q의_i 분포다.

더욱이 모든 Qs의_i 공동분포의 특징적인 기능은 다음과 같다.

${\displaystyle{\begin{정렬}\varphi(t_{1},t_{2},\ldots,t_{k})&, =(2\pi)^ᆮ\left(\prod_{j=1}^{N}\intdU_{j}\right)e^{i\sum_{i=1}^{k}t_{나는}\cdot Q_{나는}}\cdot e^{-\sum_{j=1}^{N}U_{j}^{2}/2}\\&, =(2\pi)^ᆷ\left(\prod_{j=1}^{N}\intdU_{j}^{}\prime \right)e^{i\cdot \sum_{i=1}^{k}t_{나는}\sum _{k=r_{1}+\cdots +r_{i-1}+1}^{r_{1}+\cdots+.r_{나는}}(U_{k}^{\prime })^{2}}\cdot e^{-\sum _{j=1}^{N}{U_{j}^{\prime }}^{2}/2}\\&=(2\pi )^{-N/2}\prod _{i=1}^{k}\left(\int e^{u^{2}(it_{i}-{\frac {1}{2}})}du\right)^{r_{i}}\\&=\prod _{i=1}^{k}(1-2it_{i})^{-r_{i}/2}=\prod _{i=1}^{k}\varphi _{i}(t_{i})\end{aligned}}}$

이로부터 모든 Qs가_i 독립적이라는 것이 뒤따른다.

예

표본 평균 및 표본 분산

X₁, ..., X가_n 평균 μ와 표준 편차 σ을 갖는 독립 정규 분포 랜덤 변수라면

${\displaystyle U_{i}={\frac {X_{i}-\mu }{\sigma }}}$

각 i에 대해 표준 정상이다.총 Q는 다음과 같이 우리를 제곱한 합과 같다는 점에 유의하십시오.

${\displaystyle \sum _{i}Q_{i}=\sum _{jig}U_{j}B_{jk}^{(i)}U_{k}=\sum _{jk}U_{j}U_{k}\sum _{i}B_{jk}^{(i)=\sum _{jk}U_{j}U_{k}\delta _{jk}=\sum _{j}U_{j}^{2}}$

B ${\displaystyle {1\mathrm{}}_{}}$+ ${\displaystyle {}_{}}$ ${\displaystyle {2\mathrm{}}_{}}$…${\displaystyle }$= ${\displaystyle I}$ ${\displaystyle B_{1}+B_{2}\ldots =I}$라는 원래 가설에서 비롯된다$.$ 그래서 대신 우리는 이 수량을 계산하고 나중에_i Q로 분리할 것이다.쓸 수 있다.

${\displaystyle \sum _{i=1}^{n}U_{i}^{2}=\sum _{i=1}^{n}\왼쪽({\frac {X_{i}-{\overline{X}}{\sigma }}}}}}{\frac {{\overline{X}-}-}\mu{sigma }^{{n}}}}}:{2}}:$

(여기서 $X$의${\$이(가) 샘플 평균임).이 ID를 보려면 $\sigma {\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$ ${\$번씩 곱한$$ 후 주의하십시오.

${\displaystyle \sum(X_{i}-\mu )^{2}=\sum(X_{i}-{\overline {X}+{\overline {X}-\mu )^{2}}$

그리고 확장하여 주다.

${\displaystyle \sum(X_{i}-\mu )^{2}=\sum(X_{i}-{\overline{X}}}^{{X}-\overline {X}}}^{{\overline {X}}}}}{\mu}).}$

세 번째 항은 일정한 시간과 같기 때문에 0이다.

${\displaystyle \sum({\overline {X}-X_{i})=0,}$

그리고 두 번째 학기는 단지 n개의 동일한 용어를 더했다.그러므로

${\displaystyle \sum(X_{i}-\mu )^{2}=\sum(X_{i}-{\overline{X}})^{2}+n({\overline {X}-\mu )^{2},}$

그래서

${\displaystyle \sum \left({\frac {X_{i}-\mu }{\sigma }}\right)^{2}=\sum \left({\frac {X_{i}-{\overline {X}}}{\sigma }}\right)^{2}+n\left({\frac {{\overline {X}}-\mu }{\sigma }}\right)^{2}=\overbrace {\sum _{i}\left(U_{i}-{\frac {1}{n}}\sum _{j}{U_{j}}\오른쪽)^{2}} ^{Q_{1}:{1}+\overbrace {{\frac{1}{n}\좌(\sum _{j}{{j}}}}{{}}}}}{{Q_}}}}}}}U_{j}}\오른쪽)^{2}} ^{Q_{2}}=Q_{1}+Q_{2}.}$

이제 $B{\displaystyle {}^{}}$(${\displaystyle 2^{}}$) = ${\displaystyle \frac{{}_{}}{}}${\$displaystyle B^{{n}={\frac{J_{n}}}{n}}}$이(가) 있고, ${\displaystyle {Jn}_{}}${\$displaystyle J_{n}}}$이(가) 1위를 가진 행렬이 있다.In turn ${\displaystyle B^{(1)}=I_{n}-{\frac {J_{n}}{n}}}$ given that ${\displaystyle I_{n}=B^{(1)}+B^{(2)}}$. This expression can be also obtained by expanding ${\displaystyle Q_{1}}$ in matrix notation.모든 행이 0과 같기 $때문$에${\displaystyle {}^{}}$B${\displaystyle {(1}^{}}$ $){\$ B$^{(1$)의$$순위는 $n{\displaystyle }$- ${\displaystyle 1}$ ${\displaystyle n-1}$임을$$ 알 수 있다.이리하여 코크란의 정리조건이 충족된다.

그런 다음 코크란의 정리에서는 Q와₁ Q가₂ 독립적이며, 각각 n - 1과 1의 자유도를 갖는 카이-제곱 분포가 있다고 명시한다.이것은 표본 평균과 표본 분산이 독립적이라는 것을 보여준다.이는 바수의 정리에서도 알 수 있으며, 실제로 이 특성은 정규 분포를 특징으로 한다. 다른 분포는 표본 평균과 표본 분산이 독립적이지 않기 때문이다.^[4]

분포

분포에 대한 결과는 다음과 같이 상징적으로 기록된다.

${\displaystyle \sum \left(X_{i}-{\overline {X}\\오른쪽)^{2}\심 \sigma ^{2}\chi_{n-1}^{2}.}$

${\displaystyle n({\overline {X}-\mu )^{2}\심 \sigma ^{2}\chi _{1}^{2}},$

이 두 랜덤 변수는 모두 참이지만 알 수 없는 분산 σ에² 비례한다.따라서 그들의 비율은 통계적으로 독립적이기 때문에 σ에² 의존하지 않는다.비율의 분포는 다음과 같다.

${\displaystyle {\frac {n\left({\overline {X}}-\mu \right)^{2}}{{\frac {1}{n-1}}\sum \left(X_{i}-{\overline {X}}\right)^{2}}}\sim {\frac {\chi _{1}^{2}}{{\frac {1}{n-1}}\chi _{n-1}^{2}}}\sim F_{1,n-1}}$

여기서 F는_{1,n − 1} 자유도가 1과 n - 1인 F-분포(학생 t-분포 참조)이다.여기서의 마지막 단계는 사실상 F-분포를 갖는 랜덤 변수의 정의다.

분산 추정

분산 σ을² 추정하기 위해, 때때로 사용되는 하나의 추정기는 정규 분포의 분산의 최대우도 추정기입니다.

${\displaystyle {\widehat {\sigma }}^{2}={\frac {1}{n}}\sum \left(X_{i}-{\overline {X}\right)^{2}}$

코크란의 정리를 보면 다음과 같다.

${\displaystyle {\frac{n1}\widehat {\\browidma }^{2}}:{\bama ^{2}}\심 \chi _{n-1}^{2}}:$

카이-제곱 분포의 속성은

${\displaystyle {\reasoned}E\left({\frac{n1}\widehat {\sigma }}}:{2}}:{\sigma ^{2}}:}\오른쪽)&=E\left(\chi _{n-1}^{2}\오른쪽)\\\\\\\\frac {n}{\n}{\n}}}E\left({\widehat{\\sigma ^{2}\오른쪽)&=(n-1)\\\\\\\E\left({\widehat {\sigma }}^{2}\오른쪽)&={\frac {\sigma ^{2}(n-1)}{n}\end{aigned}}}}}}$

대체 제형

다음 버전은 선형 회귀 분석을 고려할 때 자주 나타난다.^[5]$Y{\displaystyle }$~ ${\displaystyle {}_{}}$ ${\displaystyle n_{}}$( ${\displaystyle 0,}$ ${\displaystyle {}^{}}$ 2 ${\displaystyle I_{}}$ ${\displaystyle {}^{}{}_{}}$) ${\displaystyle Y\sim N_{n}(0,\sigma ^{2})$라고 가정하자.$I_{n})}$ is a standard multivariate normal random vector (here ${\displaystyle I_{n}}$ denotes the n-by-n identity matrix), and if ${\displaystyle A_{1},\ldots ,A_{k}}$ are all n-by-n symmetric matrices with ${\displaystyle \sum _{i=1}^{k$$}}A_{i}=I_$${n}}.$ 그러면 ${\displaystyle {ri}_{}}$= $Ai$을 정의할 때$다음$ 조건 중 $하나$라도 다른 두 가지를 암시한다$.$

• ${\displaystyle \sum _{i=1}^{k}r_{i}=n,}$
• ${\$$Y\sim \sigma ^{2}\chi _{r_{i}^{2$}}$$($즉{\displaystyle {}_{}}$, A ${\displaystyle i_{}}$ ${\$는 양수 세미데마인임)
• ${\displaystyle Y^{T}A_{i}$$Y}$은(는) $Y{\displaystyle {}^{}}$ ${\displaystyle T^{}}$ ${\displaystyle {}^{}{}_{}}$ ${\displaystyle j_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle$ Y$^{T}$와(와) 독립적임$$$i{\displaystyle }$ ${\displaystyle \ne }$ ${\displaystyle j}$. ${\displaystyle i\neq j.}$에 대한$$ $A_{j}Y}$

참고 항목

• Cramér의 정리, 정상분포 분해에 관한 것
• 무한확률(확률)

이 글은 검증을 위해 인용구가 추가로 필요하다. 신뢰할 수 있는 출처에 인용문을 추가하여 이 기사를 개선할 수 있도록 도와주십시오. 공급되지 않은 재료는 도전하여 제거할 수 있다. 출처 찾기: "코크란의 정리" – 뉴스 · 신문 · 서적 · 학자 · JSTOR(2011년 7월) (이 템플릿 메시지를 제거하는 방법과 시기 학습)

참조