행렬 정규 분포

행렬 정규

표기법	${\displaystyle {\mathcal {MN}_{n,p}(\mathbf {M},\mathbf {U},\mathbf {V})}$
매개변수	${\displaystyle \mathbf{M}}$ ${\$ 위치$$$($${\displaystyle }$ n ${\displaystyle \times }$ ${\displaystyle p}$ ${\displaystyle n\times p}$ 행렬$$) ${\displaystyle \mathbf{U}}$ ${\$척도$$(양수 ${\displaystyle }$ 리얼 n ${\displaystyle \times }$ ${\displaystyle n}$ ${\displaystyle$ n$\times$ n$}$ 행렬$$) ${\displaystyle \mathbf{V}}$ ${\$척도$$(양수-확정 실제 ${\displaystyle }$ ${\displaystyle \times }$ ${\displaystyle p}$ ${\displaystyle p\time$ p$}$ 행렬$$)
지원	${\displaystyle \mathbf {X} \in \mathb {R} ^{n\times p}}$
PDF	${\displaystyle {\frac {\exp \left(-{\frac {1}{2}}\,\mathrm {tr} \left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\right)}{(2\pi )^{np/2} \mathbf {V} ^{n/2} \mathbf {U} ^{p/2}}}}$
평균	${\displaystyle \mathbf {M} }$
분산	${\displaystyle \mathbf{U}}$ ${\$열) 및 $V{\displaystyle \mathbf{}}$ ${\$열)

통계에서 행렬 정규 분포 또는 행렬 가우스 분포는 다변량 정규 분포를 행렬 값 랜덤 변수에 일반화하는 확률 분포다.null

정의

행렬 정규 분포 $M{\displaystyle {\mathcal{}}_{}}$ ${\displaystyle N_{}}$, ${\displaystyle p_{}}$(${\displaystyle M\mathbf{}}$, U${\displaystyle }$, $){\displaystyle {\mathcal{MN}_{n,p}(\mathbf {M},\mathbf {U} ,\mathbf {V}$)을 따르는 랜덤 행렬 X(n × p)의 확률 밀도 함수는 다음과 같은 형식을$$ 갖는다.

${\displaystyle p(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\frac {\exp \left(-{\frac {1}{2}}\,\mathrm {tr} \left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\right)}{(2\pi )^{np/2} \mathbf {V} ^{n/2} \mathbf {U} ^{p/2}}}}$

여기서 t ${\displaystyle \mathrm{r}}$ ${\$는) 추적을 나타내고$$ M은 n × p, U는 n × n, V는 p × p이다.

행렬 정규 분포는 다음과 같은 방법으로 다변량 정규 분포와 관련이 있다.

${\displaystyle \mathbf {X} \sim {\mathcal {MN}_{n\times p}(\mathbf {M},\mathbf {U},\mathbf {V}),}$

만약의 경우에 한해서만

${\displaystyle \mathbrm {vc}(\mathbf {X} )\심 {\mathcal{N}_{np}(\mathbf {M}),\mathbf {V}\otimes \mathbf {U}}}}}}}}$

여기서 $▼{\displaystyle }$ ${\displaystyle \otimes }$은(는) Kronecker 제품을 나타내고$$ $v{\displaystyle \mathrm{}}$ e ${\displaystyle \mathrm{c}}$(${\displaystyle }$) ${\displaystyle \mathbf {M}은($는) $M{\displaystyle \mathbf{}}$ ${\$의 벡터화를 나타낸다$$$.$

증명

위의 행렬 정상 밀도와 다변량 정상 밀도 함수 사이의 동등성은 다음과 같이 추적 및 Kronecker 제품의 여러 특성을 사용하여 나타낼 수 있다.먼저 일반 PDF 매트릭스 지수의 인수로 시작하십시오.

${\displaystyle {\begin{aligned}&\;\;\;\;-{\frac {1}{2}}{\text{tr}}\left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\\&=-{\frac{1}:{2}}: {\text{vec}}\왼쪽(\mathbf {X} -\mathbf {M} \오른쪽)^{T}{\text{vec}}\left(\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\mathbf {V} ^{-1}\right)\\&=-{\frac {1}{2}}{\text{vec}}\left(\mathbf {X} -\mathbf {M} \right)^{T}\left(\mathbf {V} ^{-1}\otimes \mathbf {U} ^{-1}\right){\text{vec}}\left(\mathbf {X} -\mathbf {M} \right)\\&=-{\frac {1}{2}}\left[{\text{vec}}(\mathbf {X} )-{\text{vec}}(\mathbf {M} )\right]^{T}\왼쪽(\mathbf {V} \mathbf {U} \right)^{-1}\{\text{vec}(\mathbf {X})-{\text{vec}(\mathbf {M} )\end{ligned}}}}}}}}$

다변량 정규 PDF의 지수의 인수인 것이다.검증은 결정 요인 ${\displaystyle 속성\mathbf{}}$ ${\displaystyle V\mathbf{}}$ ${\displaystyle \otimes }$ U${\displaystyle }$= ${\displaystyle V\mathbf{}}$ ${\displaystyle n{}^{}\mathbf{}}$ ${\displaystyle {}^{}}$ .${\displaystyle \mathbf {V} \otimes \mathbf {U}$= $\mathbf {V} ^{n} \mathbf {U} ^{p}$을 사용하여 완료된다.$}$

특성.

$X{\displaystyle \mathbf{}}$~ ${\displaystyle {\mathcal{}}_{}}$ ${\displaystyle {\mathcal{N}}_{}}$ ${\displaystyle n_{}}$ ${\displaystyle {\times }_{}}$ p ${\displaystyle {}_{}M\mathbf{}}$, U${\displaystyle }$, V${\displaystyle }$) ${\displaystyle \mathbf {X} \sim {\mathcal{MN}_{n\\timep$ p$}(\mathbf {M},\mathbf$ {$U},\mathbf {V$ 다음과 같은 속성이 있다.^[1][2]

기대값

평균 또는 기대값은 다음과 같다.

${\displaystyle E[\mathbf {X} ]=\mathbf {M}}$

그리고 우리는 다음과 같은 2차 주문을 기대하고 있다.

${\displaystyle E[(\mathbf {X} -\mathbf {M} )(\mathbf {X} -\mathbf {M})^{T}=\mathbf {U}\operatorname {tr}(\mathbf {V} )}$

${\displaystyle E[(\mathbf {X} -\mathbf {M} )^{T}(\mathbf {X} -\mathbf {M} )=\mathbf {V}\operatorname {tr}(\mathbf {U} )}$

여기서 ${\displaystyle \mathrm{tr}}$ ${\displaystyle \propertname {tr}은($는) 추적을 의미한다$$.null

보다 일반적으로 적절한 치수의 행렬 A,B,C:

${\displaystyle {\reasoned}E[\mathbf{X}\mathbf{A}\mathbf{X}^{T}]&, =\mathbf{U}\operatorname{tr}, =\mathbf{V}\operatorname{tr}{M}^{T}\mathbf{BM}\\E[\mathbf{X}\mathbf{C}\mathbf{X}]&(\mathbf{U}\mathbf{B}^{T})+\mathbf, =\mathbf{V}\mathbf{C}^{T}\mat{MAM}^ᆰ\\E[\mathbf{X}^{T}\mathbf{B}\mathbf{X}]&(\mathbf{A}^{T}\mathbf{V})+\mathbf.hbf{U}+\mathbf {MCM} \end{aigned}}}$

변환

변환 전치:

${\displaystyle \mathbf {X} ^{T}\sim {\mathcal {MN}_{p\times n}(\mathbf {M}^{T},\mathbf {V},\mathbf {U})}}$

선형 변환: D(r-by-n), 전체 순위 r ≤ n 및 C(p-by-s), 전체 순위 s ≤ p가 되도록 한 다음:

${\displaystyle \mathbf {DXC} \sim {\mathcal {MN}_{r\times s}(\mathbf {DMC},\mathbf {DUD} ^{T},\mathbf {VC})}}$

예

다변량 정규 분포에 따라 동일하게 분포된 n개의 독립적 p-차원 랜덤 변수 표본을 상상해 보자.

${\displaystyle \mathbf {Y} _{i}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}){\text{ with }}i\in \{1,\ldots ,n\}}$.

ith 행이 $Y{\displaystyle {\mathbf{}}_{}}$ ${\displaystyle {}_{}}$ ${\$$displaystyle \mathbf {X}$인 n × p $행렬{\displaystyle \mathbf{}}$ X ${\$$displaystyle \mathbf {Y} _{i}}$을$($를) 정의할 때 다음을 얻는다$.$

${\displaystyle \mathbf {X} \sim {\mathcal {MN}_{n\times p}(\mathbf {M},\mathbf {U},\mathbf {V}),}$

여기서 $M{\displaystyle \mathbf{}}$ ${\$의 각 행은$$ $\mu {\displaystyle \mathit{}}$ ${\$즉 $M{\displaystyle \mathbf{}}$= ${\displaystyle {}_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle {}^{}}$ T ${\$ {1$} _{n}\time$ {$n}\bmu}^{}{}}}}}}}{{{}}}}}}}}}}}}}}}}}}}}}}{{{{{{{{{{{}}}}}}}$$T$ $U{\displaystyle \mathbf{}}$ ${\$은(는) n × n ID 매트릭스로 행이 독립적이며, $V{\displaystyle \mathbf{}}$= = ${\$

최대우도 모수 추정

Given k matrices, each of size n × p, denoted ${\displaystyle \mathbf {X} _{1},\mathbf {X} _{2},\ldots ,\mathbf {X} _{k}}$, which we assume have been sampled i.i.d. from a matrix normal distribution, the maximum likelihood estimate of the parameters can be obtained by maximizing:

${\displaystyle \prod _{i=1}^{k}{\mathcal {MN}_{n\times p}(\mathbf {X} _{i}\mid \mathbf {M},\mathbf {U},\mathbf {V}).}$

평균에 대한 해결책은 닫힌 형태, 즉

${\displaystyle \mathbf{M} ={\frac {1}{k}\sum _{i=1}^{k}\mathbf {X} _{i}}}}$

공분산 매개변수는 그렇지 않다.그러나 이러한 매개변수는 다음과 같이 그라데이션 영(0)을 지정하여 반복적으로 최대화할 수 있다.

${\displaystyle \mathbf {U} ={\frac {1}{kp}\sum_{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )\mathbf {V}^{1}(\mathbf {X}-mathbf {M})^{{{{}^{{{}^}^}}^}^}^}^}^}}}}^}^}^}}}}}}}}^{{{{{{{{}}}T}$

그리고

${\displaystyle \mathbf {V} ={\frac {1}{kn}}\sum _{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} _{i}-\mathbf {M} ),}$

예 및 참조를 참조하십시오.공분산 매개변수는 모든 척도 인자의 경우 s >0에 대해 다음과 같은 것을 가지고 있다는 점에서 식별할 수 없다.

${\displaystyle {\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,s\mathbf {U} ,{\tfrac {1}{s}}\mathbf {V} ).}$

분포에서 값 그리기

다변량 정규 분포의 표본 추출은 다변량 정규 분포에 대한 표본 추출 절차의 특별한 경우다.$X{\displaystyle \mathbf{}}$ {\$displaystyle \mathbf {X}$}을(를) 표준 정규 분포에서 np 독립 표본의 p by p 행렬이 되도록$$ 한다$.$

${\displaystyle \mathbf {X} \sim {\mathcal {MN}_{n\times p}(\mathbf {0},\mathbf {I},\mathbf {I}) \mathbf {I}}$

그럼 그렇게 합시다.

${\displaystyle \mathbf {Y} =\mathbf {M} +\mathbf {A} \mathbf {X} \mathbf {B},}$

하도록

${\displaystyle \mathbf {Y} \sim {\mathcal {MN}_{n\time p}(\mathbf {M},\mathbf {AA} ^{T},\mathbf {B}),}$

여기서 A와 B는 Cholesky 분해 또는 유사한 매트릭스 제곱근 연산에 의해 선택될 수 있다.null

기타 분포와의 관계

Dawid(1981)는 위시아트 분포, 역위시아트 분포 및 행렬 t-분포를 포함한 다른 분포에 대한 행렬 값 정규 분포의 관계에 대한 논의를 제공하지만 여기서 사용하는 것과 다른 표기법을 사용한다.null

참고 항목

• 다변량 정규 분포

참조

• Dawid, A.P. (1981). "Some matrix-variate distribution theory: Notational considerations and a Bayesian application". Biometrika. 68 (1): 265–274. doi:10.1093/biomet/68.1.265. JSTOR 2335827. MR 0614963.
• Dutilleul, P (1999). "The MLE algorithm for the matrix normal distribution". Journal of Statistical Computation and Simulation. 64 (2): 105–123. doi:10.1080/00949659908811970.
• Arnold, S.F. (1981), The theory of linear models and multivariate analysis, New York: John Wiley & Sons, ISBN 0471050652