교차 공분산 행렬

통계에 관한 시리즈의 일부
상관 및 공분산
랜덤 벡터의 경우 자기 상관 행렬 교차상관행렬 자동 공분산 행렬 교차 공분산 행렬
확률적 공정의 경우 자기 상관 함수 교차상관함수 자기공명함수 교차 공분산 함수
결정론적 신호의 경우 자기 상관 함수 교차상관함수 자기공명함수 교차 공분산 함수
v t

확률 이론과 통계에서 교차 공분산 행렬은 i의 원소를 가진 행렬이며, j 위치는 랜덤 벡터의 i번째 원소와 다른 랜덤 벡터의 j번째 원소 사이의 공분산이다. 랜덤 벡터는 다차원을 갖는 랜덤 변수다. 벡터의 각 요소는 스칼라 랜덤 변수다. 각 원소에는 관측된 경험적 값의 유한한 수 또는 유한하거나 무한의 잠재적 값이 있다. 전위 값은 이론적 접합 확률 분포로 지정된다. 직관적으로, 교차 공분산 행렬은 공분산 개념을 다차원으로 일반화한다.

The cross-covariance matrix of two random vectors ${\displaystyle \mathbf {X} }$ and ${\displaystyle \mathbf {Y} }$ is typically denoted by ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }}$ or ${\displaystyle \Sigma _{\mathbf {X} \mathbf {Y} }}$.

정의

기대값과 분산이 존재하는 랜덤 요소를 포함하는$$$랜덤{\displaystyle \mathbf{}}$ $벡터{\displaystyle \mathbf{}}$ X ${\$ 및 Y$$$${\$displaystyle \mathbf {Y}}$의 $경우{\displaystyle \mathbf{}}$ X ${\$ $및$ Y ${\$의 교차 공분산 행렬이 정의된다$$^{[1]: p.336} .

where ${\displaystyle \mathbf {\mu _{X}} =\operatorname {E} [\mathbf {X} ]}$ and ${\displaystyle \mathbf {\mu _{Y}} =\operatorname {E} [\mathbf {Y} ]}$ are vectors containing the expected values of ${\displaystyle \mathbf {X} }$ and ${\displaystyle \mathbf {Y} }$. The vEctor $X{\displaystyle \mathbf{}}$ ${\$ $및$ Y ${\$은(는) 동일한 차원을 가질 필요가$$ 없으며 둘 중 하나가 스칼라 값일 수 있다.

교차 공분산 행렬은${\displaystyle }$(${\displaystyle i}$, ${\displaystyle j}$) ${\displaystyle (i,j)}$ 항목이$$ 공분산인 행렬이다.

${\displaystyle \operatorname {K} _{X_{i}Y_{j}}=\operatorname {cov} [X_{i}}Y_{j}]=\operatorname {E} [(X_{i}-\operatorname {E}[X_{i}])(Y_{j}-\operatorname {E} [Y_{j}])]}$

$X{\displaystyle \mathbf{}}$ ${\$의 i번째 요소와 Y ${\$의 j번째 요소 사이에 다음과 같은 구성 요소별 교차 공분산 행렬의 정의를 제공한다$.$

${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{1}-\operatorname {E} [X_{1}])(Y_{n}-\operatorname {E} [Y_{n}])]\\\\\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{2}-\operatorname {E} [X_{2}])(Y_{n}-\operatorname {E} [Y_{n}])]\\\\\vdots &\vdots &\ddots &\vdots \\\\\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{1}-\operatorname {E} [Y_{1}])]&\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{2}-\operatorname {E} [Y_{2}])]&\cdots &\mathrm {E} [(X_{m}-\operatorname {E} [X_{m}])(Y_{n}-\operatorname {E} [Y_{n}])]\end{bmatrix}}}$

예

For example, if ${\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)^{\rm {T}}}$ and ${\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)^{\rm {T}}}$ are random vectors, then ${\displaystyle \operatorname {cov} (\ma$$thbf {X} ,\mathbf {Y}}$은(는) 3${\displaystyle \mathrm{x}}$ 2 ${\displaystyle 3\times 2}$ 행렬이며$,{\displaystyle }$ (${\displaystyle i}$, j${\displaystyle }$) ${\displaystyle (i,j)}$ -th$$ 항목은 ${\displaystyle \mathrm{cov}}$ ${\displaystyle }$( ${\displaystyle {}_{}}$ ${\displaystyle i_{}}$, ${\displaystyle {}_{}}$ ${\displaystyle j_{}}$) ${\displaystyle \opername {cov}(X_{i},$ {cov$},$ {ci}, {ci}, {ci}, },$Y_{j}}$.

특성.

교차 공분산 행렬의 경우 다음과 같은 기본 특성이 적용된다.^[2]

1. ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )=\operatorname {E} [\mathbf {X} \mathbf {Y} ^{\rm {T}}]-\mathbf {\mu _{X}} \mathbf {\mu _{Y}} ^{\rm {T}}}$
2. ${\displaystyle \operatorname {cov}(\mathbf {X},\mathbf {Y} )=\mathbname {cov}(\mathbf {Y},\mathbf {X})^{\rm {T}}$
3. ${\displaystyle \operatorname {cov} (\mathbf {X_{1}} +\mathbf {X_{2}} ,\mathbf {Y} )=\operatorname {cov} (\mathbf {X_{1}} ,\mathbf {Y} )+\operatorname {cov} (\mathbf {X_{2}} ,\mathbf {Y} )}$
4. ${\displaystyle \operatorname {cov}(A\mathbf {X} +\mathbf {a}, B^{\rm {T})\mathbf {Y} +\mathbf {b}=A\,\mathbf {X},mathbf {Y},B})$
5. If ${\displaystyle \mathbf {X} }$ and ${\displaystyle \mathbf {Y} }$ are independent (or somewhat less restrictedly, if every random variable in ${\displaystyle \mathbf {X} }$ is uncorrelated with every random variable in ${\displaystyle \mathbf {Y} }$), then ${\displays$$tyle \operatorname {cov}(\mathbf {X},\mathbf {Y} )=0_{p\times q}}$

where ${\displaystyle \mathbf {X} }$, ${\displaystyle \mathbf {X_{1}} }$ and ${\displaystyle \mathbf {X_{2}} }$ are random ${\displaystyle p\times 1}$ vectors, ${\displaystyle \mathbf {Y} }$ is a random ${\displaystyle q\times 1}$ vector, ${\displaystyle \mathbf {a$$} }$ is a ${\displaystyle q\times 1}$ vector, ${\displaystyle \mathbf {b} }$ is a ${\displaystyle p\times 1}$ vector, ${\displaystyle A}$ and ${\displaystyle B}$ are ${\displaystyle q\times p}$ matrices of constants, and ${\displaystyle 0_{p\times q}}$ is a ${\displaystyle p\times q}$$0$행렬을$표시한다$

복잡한 랜덤 벡터에 대한 정의

$Z{\displaystyle \mathbf{}}$ ${\$과($)$ W {\$displaystyle$ \$mathbf {W}이($가) 복합 랜덤 벡터인$$ 경우 교차 공분산 행렬의 정의가 약간 변경된다. 전위치는 은둔자 전위로 대체된다.

${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,\mathbf {W} ){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} [(\mathbf {Z} -\mathbf {\mu _{Z}} )(\mathbf {W} -\mathbf {\mu _{W}} )^{\rm {H}}]}$

복잡한 랜덤 벡터의 경우 의사 교차 공분산 행렬이라는 또 다른 행렬은 다음과 같이 정의된다.

${\displaystyle \operatorname {J} _{\mathbf {Z} \mathbf {W} }=\operatorname {cov} (\mathbf {Z} ,{\overline {\mathbf {W} }}){\stackrel {\mathrm {def} }{=}}\ \operatorname {E} [(\mathbf {Z} -\mathbf {\mu _{Z}} )(\mathbf {W} -\mathbf {\mu _{W}} )^{\rm {T}}]}$

상관성 없음

$두{\displaystyle \mathbf{}}$ 개의 랜덤 벡터 X ${\$ ^{[1]: p.337} $\$$mathbf {X}$과($)$ Y {\$displaystyle$ \$mathbf {Y$$}$은(는) $교차{\displaystyle {\mathrm{}}_{}}$ ${\displaystyle {공분산\mathbf{}}_{}}$행렬 K X Y {\$displaystyle \operatorname${K} $_{\mathbf$ {X} $\mathbf$ {Y$$$}}}}}}}$ 행렬이$$ 0 행렬인 경우 상관 관계가 없는 것으로 불린다.

Complex random vectors ${\displaystyle \mathbf {Z} }$ and ${\displaystyle \mathbf {W} }$ are called uncorrelated if their covariance matrix and pseudo-covariance matrix is zero, i.e. if ${\displaystyle \operatorname {K} _{\mathbf {Z} \mathbf {W} }=\operatorname {J} _{\mathbf {Z} \mathbf {W}$$}=0}$.

참조