조건부 분산

확률 이론과 통계에서 조건부 분산은 하나 이상의 다른 변수의 값이 주어진 랜덤 변수의 분산이다. 특히 계량학에서는 조건부 분산을 측량함수 또는 측량함수라고도 한다.^[1] 조건부 분산은 자기 회귀 조건부 이성애성(ARCH) 모델의 중요한 부분이다.

정의

다른 랜덤 변수 X에 주어진 랜덤 변수 Y의 조건부 분산은

${\displaystyle \operatorname {Var}(Y X)=\operatorname {E} {\Big(}Y-\operatorname {E}(Y\mid X){\Big )}^{2}\mid X{\Big )}.}$

조건부 분산은 Y를 "예측"하기$$ 위해 $E{\displaystyle \mathrm{}}$ ${\displaystyle }$ ${\displaystyle (Y}$ ${\displaystyle \mid }$ X${\displaystyle }$) ${\displaystyle \operatorname {E}(Y\mid$ X$)}$을(를) 사용할 경우 분산이 얼마나 남았는지 알려준다. 여기서 $E{\displaystyle \mathrm{}}$ ${\displaystyle }$(${\displaystyle Y}$ ${\displaystyle \mid }$ X${\displaystyle }$) ${\displaystyle \operatorname {E}(Y\mid$ X$)$은 우리가 회상할 수 있는 Y 주어진 X의 조건부 기대 그 자체(확률 1까지 결정되는 X의 함수)를$$ 의미한다. 결과적으로 ${\displaystyle \mathrm{Var}}$⁡ ${\displaystyle (Y}$ ${\displaystyle X}$) ${\displaystyle \operatorname {Var}(Y X)}$ 자체는$$ 랜덤 변수(X의 함수)가 된다.

설명, 최소 제곱에 대한 관계

분산은 랜덤 변수(예: Y)와 기대값 사이의 기대 제곱 편차라는 점을 상기하십시오. 기대값은 무작위 실험의 결과에 대한 합리적인 예측으로 생각할 수 있다(특히 예측값을 기대 제곱 예측오차로 평가할 때 기대값은 최적 상수 예측값이다). 따라서 한 가지 분산 해석은 가능한 가장 작은 기대 제곱 예측 오차를 제공한다는 것이다. Y를 예측하는 데 사용할 수 있는 다른 랜덤 변수(X)에 대한 지식이 있다면 이 지식을 잠재적으로 사용하여 예상 제곱 오차를 줄일 수 있다. 밝혀진 바와 같이, X가 주어진 Y의 최선의 예측은 조건부 기대다. 특히,${\displaystyle }모든{\displaystyle }$ ${\displaystyle f\mathbb{}}$: ${\displaystyle R\mathbb{}}$ →$$R {\$displaystyle f:\mathb {R}$ \to \mathb {$R}$ \to \$mathb$ {R$}}$ 측정 가능$$,

${\displaystyle {\begin}\operatorname {E}[(Y-f(X)^{2}]&=\operatorname {E}[(Y-\operatorname {E})(Y X)\,\,\,\\operatorname {E}(Y X)-f(X)^2]\&=\operatorname {E} [\operatorname {E} \{{(Y-\operatorname {E})(Y X)\,\,\,+\,\\\opername {E}(Y X)-f(X)^{2} X\}\]\\\&=\operatorname {E}[\operatorname {Var}(Y X)]+\operatorname {E}[(\operatorname {E}(Y X)-f(X)^{2}]\,\end{정렬}}}$

$f{\displaystyle }$( ${\displaystyle X}$)${\displaystyle }$= ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle (Y}$ ${\displaystyle X}$) ${\displaystyle f(X)=\operatorname {E}(Y$ X$)}$을 선택하면 두 번째$,$ 음이 아닌 용어가 0이 되어 클레임이 나타난다. 여기서 제2의 평등은 완전한 기대의 법칙을 이용했다. 또한 우리는 주어진 Y의 기대 조건부 분산이 X에 대한 지식만을 주어진 Y를 예측하는 수정 불가능한 오류로 나타난다는 것을 알게 된다.

특수 케이스, 변형

이산형 랜덤 변수의 조건화

When X takes on countable many values ${\displaystyle S=\{x_{1},x_{1},\dots \}}$ with positive probability, i.e., it is a discrete random variable, we can introduce ${\displaystyle \operatorname {Var} (Y X=x)}$, the conditional variance of Y given that X=x for any x from S as follows:

${\displaystyle \operatorname {Var}(Y X=x)=\operatorname {E}(Y-\mid X=x))^{2}\mid X=x),}$

where recall that ${\displaystyle \operatorname {E} (Z\mid X=x)}$ is the conditional expectation of Z given that X=x, which is well-defined for ${\displaystyle x\in S}$. An alternative notation for ${\displaystyle \operatorname {Var} (Y X=x)}$ is ${\d$$isplaystyle \operatorname {Var} _{Y\mid X}(Y x)$$}$

여기서 ${\displaystyle \mathrm{Var}}$ ${\displaystyle (Y}$ ${\displaystyle X}$= ${\displaystyle x}$) ${\displaystyle \operatorname {Var}(Y$ X$=x)$은 x의 가능한 값에 대한 상수를 정의하며$$, 특히 ${\displaystyle \mathrm{Var}}$ ${\displaystyle (Y}$ X${\displaystyle }$= x${\displaystyle }$) ${\displaysty \operatorname {Var}(Y X=x)$는$$랜덤 변수가 아니라는 점에 유의하십시오.

Var${\displaystyle \mathrm{var}}$ (Y ${\displaystyle X}$) ${\displaystyle \operatorname {Var}(Y X)$에 대한 이 정의의 연결은 다음과$$ 같다. S를 위와 같이 하고 $v{\displaystyle }$: ${\displaystyle S\mathbb{}}$→ R ${\$$S{\displaystyle }$$\to \mathb {R} }$을(를) v$$${\displaystyle (}$ x${\displaystyle }$)${\displaystyle }$= ${\displaystyle \mathrm{Var}}$ $⁡($ ${\displaystyle X}$= ${\displaystyle x}$) {\$displaystyle v(x$)=\$operatorname$ {Var$}(Y$ X$=x$ ${\displaystyle \mathrm{그렇다면}}$ v${\displaystyle }$( X${\displaystyle }$)${\displaystyle }$= ${\displaystyle \mathrm{Var}}$ ${\displaystyle }$(${\displaystyle Y}$ X${\displaystyle }$) ${\displaystyle v(X)=\operatorname {Var}(Y$ X$)}$은(는) 거의$$ 확실하다.

조건부 분포를 사용한 정의

"Y given X=x"의 조건부 기대치는 Y given X의 조건부 분포를 사용하여 더 일반적으로 정의할 수 있다(이 경우 X와 Y 모두 실제 값이기 때문에 이 경우 존재한다).

In particular, letting ${\displaystyle P_{Y X}}$ be the (regular) conditional distribution ${\displaystyle P_{Y X}}$ of Y given X, i.e., ${\displaystyle P_{Y X}:{\mathcal {B}}\times \mathbb {R} \to [0,1]}$ (the intention is that ${\displaystyle P_{YX}(U,x)=P(}$${\displaystyle Y}$ ${\displaystyle \in }$ ${\displaystyle U}$ ${\displaystyle X}$= ${\displaystyle x}$) ${\displaystyle P_{Y$ X$}(U,x)=P(Y\in$ U $X=x)}$는 X의 지원 위에 거의$$ 확실히 정의된다.

${\displaystyle \operatorname {Var}(Y X=x)=\int(y-\int y'P_{Y X}(dy')^{2}P_{Y X}(dyn x).}$

물론 이것은 Y가 분리된 그 자체일 때(합계로 통합 대체), 그리고 일부 기초 분포와 관련하여 주어진 X=x의 조건부 밀도가 존재할 때에도 특화될 수 있다.

분산 성분

총분산 법칙에 따르면

${\displaystyle \operatorname {Var}(Y)=\operatorname {E}(Y\mid X)+\operatorname {Var}(\operatorname {E})(Y\mid X))}$

즉 Y의 분산은 X가 주어진 기대 조건부 분산과 X가 주어진 Y의 조건부 기대 분산의 합이다. 첫 번째 항은 "Y를 예측하기 위해 X를 사용"한 후 남은 변동을 포착하고, 두 번째 항은 X의 랜덤성으로 인한 Y 예측의 평균으로 인한 변동을 포착한다.

참고 항목

• 혼성모델
• 랜덤 효과 모형

참조

추가 읽기

• Casella, George; Berger, Roger L. (2002). Statistical Inference (Second ed.). Wadsworth. pp. 151–52. ISBN 0-534-24312-6.