표준 상관

시리즈의 일부
기계 학습 및 데이터 마이닝
문제 분류 클러스터링 회귀 이상 검출 데이터 클리닝 자동 ML 어소시에이션 규칙 강화 학습 구조화된 예측 기능 엔지니어링 기능 학습 온라인 학습 준지도 학습 비지도 학습 순위 매기기 학습 문법 유도
지도 학습 (분류 • 회귀) 의사결정 트리 앙상블 배깅 부스팅 랜덤 포레스트 k-NN 선형 회귀 네이비 베이즈 인공신경망 로지스틱 회귀 분석 퍼셉트론 관련 벡터 머신(RVM) 서포트 벡터 머신(SVM)
클러스터링 버치 치유하다 계층적 k자형 기대 최대화(EM) DBSCAN 광학 평균 이동
치수 축소 인자 분석 CCA ICA LDA NMF PCA PGD t-SNE
구조화된 예측 그래픽 모델 베이즈 네트 조건부 랜덤 필드 히든 마르코프
이상 검출 k-NN 국소 특이치 계수
인공신경망 자동 인코더 인지 컴퓨팅 딥 러닝 딥 드림 다층 퍼셉트론 RNN LSTM GRU ESN 저장고 계산 제한 볼츠만 기계 GAN somerset. 컨볼루션 뉴럴 네트워크 유넷 트랜스포머 비전. 스파이킹 뉴럴 네트워크 메모리 트랜지스터 전기화학 RAM(ECRAM)
강화 학습 Q-러닝 사사 시간차(TD) 멀티 에이전트 셀프 플레이
인간과의 학습 액티브 러닝 크라우드 소싱 휴먼 인 더 루프
모델 진단 학습 곡선
이론. 커널 머신 바이어스-분산 트레이드오프 컴퓨터 학습 이론 경험적 리스크 최소화 오컴 러닝 PAC 학습 통계학 학습 VC 이론
기계학습장 NeurolIPS ICML ML JMLR ArXiv:cs.LG
관련 기사 인공지능 용어집 기계 학습 연구를 위한 데이터 세트 목록 기계학습의 개요
v t

통계학에서 표준 변수 분석이라고도 하는 표준 상관 분석(CCA)은 교차 공분산 행렬에서 정보를 추론하는 방법입니다.랜덤 변수의 벡터 X = (X₁, ..., X_n)와 Y = (Y₁, ..., Y_m)가 두 개 있고 변수 사이에 상관 관계가 있는 경우, 정규-변수 분석은 서로 ^[1]최대 상관 관계를 갖는 X와 Y의 선형 조합을 찾습니다.T. R. Knapp는 "사실상 일반적으로 발생하는 유의한 모든 파라메트릭 테스트는 두 ^[2]변수 집합 간의 관계를 조사하기 위한 일반적인 절차인 표준 상관 분석의 특별한 경우로 취급할 수 있다"고 지적한다.이 방법은 1936년 ^[3]Harold Hoteling에 의해 처음 도입되었지만 평면 사이의 각도의 맥락에서 수학 개념은 1875년에 ^[4]요르단에 의해 발표되었습니다.

정의.

두 개의 열 $벡터{\displaystyle }$ X ${\displaystyle =}$ ( ${\displaystyle {}_{}{}_{}{1\mathrm{}}_{}}$ , ${\displaystyle ...}$ , x${\displaystyle {}_{}{}^{}{n}_{}}$ )$$ { { { \ $displaystyle$ X = ( $x$_ {1$}$ , \ $dots$,$x$_ { $n$} ^{$T}}$ $및$ Y ${\displaystyle =}$ ( ${\displaystyle {}_{}{}_{}{1\mathrm{}}_{}}$, ${\displaystyle ...}$ ,${\displaystyle {}_{}{}^{}{y}_{}}$ ${\displaystyle m^{}}$) T { { { $displaystyle$ Y = ( $y$_ {1$}$ , \ $dots$,$y$_ { $m$} ^{T$}}$초 모멘트가 유한한 랜덤 변수의 경우 교차 ${\displaystyle {\mathrm{간섭}}_{}}$도 ${\displaystyle {\delta }_{}}$ X Y ${\displaystyle {}_{}}$ ${\displaystyle \mathrm{cov}\delta }$ (${\displaystyle X}$, Y$$) \ $displaystyle$\ $Sigma$_ { $X$ } 를 정의할 수 $있습니다$.$Y}=\operatorname {cov}(X,Y)$는 n${\displaystyle }$×$$ {$style$ n$\times$ m$}$ 행렬이며$,{\displaystyle }$ 여기서 ($,$ {$displaystyle$ ($i,j)}$ 엔트리는$$ 공분산 ${\displaystyle \mathrm{cov}}$θ(${\displaystyle x_{}}$i$,$j$)$ {$displaystyle$ \$operatorname {cov}(x_i,y_{j$입니다.} $및$ $Y${\$displaystyle$Y$}($예: 데이터 매트릭스 쌍).

표준 상관 분석에서는 $임의$의 ${\displaystyle {}^{}}$ A$$X$$\$displaystyle$a$\$ a$\$in \mathbb {R}^{m})와$$b \$displaystyle$b}($$${\displaystyle {\mathbb{}}^{}}$ R$$\ $displaystyle$ b$\in \mathbb {R}^{m$ $벡터$를 구한다.$T}X}$ $및$ ${\displaystyle b^{}}$ T $(디스플레이 스타일$ b$^{$$T{\displaystyle }$$}Y$는 상관$$$=$ ${\displaystyle {}^{}}$δ (${\displaystyle {}^{}}$ ${\displaystyle X^{},}$ ${\displaystyle {}^{}}$Y ){$displaystyle \rho$ =\$operatorname {corr}(a^{T}X, b^{T}$Y$)\}$를 최대화합니다.(표준) 랜덤 $변수{\displaystyle }$ U ${\displaystyle =}$ ${\displaystyle a^{}}$ ${\displaystyle {}^{}}$ X$${\$displaystyle$ U$=$$a$^{$T}X}$ $및$ V ${\displaystyle =}$ ${\displaystyle {}^{}}$ ${\displaystyle T^{}}$ {\$displaystyle$ V$=b^{$$T}Y}$는 표준 변수의 첫 번째 쌍입니다.그런 다음 첫 번째 표준 변수 쌍과 상관관계가 없다는 제약조건에 따라 동일한 상관관계를 극대화하는 벡터를 구한다. 이것은 두 번째 표준 변수 쌍을 제공한다.이 절차는 최대${\displaystyle }${${\displaystyle m,}$ $}$회({$displaystyle \min\{m, n\})$까지 계속할 수 있습니다.

$${\displaystyle(a', b')= 언더셋{a, b}{\operatorname {cormax}}}\operatorname {corr}(a^{T}X, b^{T}Y)}$$

계산

파생

${\displaystyle x_{}}$ X ${\displaystyle Y_{}}$ \$displaystyle$\$Sigma$ _ { $X$ }$Y}}$는 임의의 (벡터 모양) 랜덤 $변수{\displaystyle }$X({$displaystyle$X})와 Y$({displaystyle$Y$\})$ 쌍에 대한 교차 공분산 행렬입니다. 최대화하는 대상 함수는 다음과 같습니다.

$\displaystyle \rho = flac {a^{T}\Sigma_{X}Y}b}{\sqrt {a^}T}\Sigma _{X}a}}{\sqrt {b^{T}\Sigma_{YY}b}}}}}.}$

첫 번째 단계는 기본 변경을 정의하고

${\displaystyle c=\Sigma_{X}^{1/2}a,}$

${\displaystyle d=\Sigma_{YY}^{1/2}b.}$

이렇게 해서

$\displaystyle \rho = scfrac {c^{T}\Sigma _{X}^{-1/2}\Sigma _{X}Y}\Sigma_{YY}^{-1/2}d}{\sqrt {c^{T}c}}{\sqrt {d^{T}d}}}}}}.}$

코시-슈바르츠 부등식에 의해, 우리는

$\displaystyle \left(c^{)T}\Sigma _{X}^{-1/2}\Sigma _{X}Y}\Sigma_{YY}^{-1/2}\right)(d)\leq \left(c^{T}\Sigma _{X}^{-1/2}\Sigma _{X}Y}\Sigma_{YY}^{-1/2}\Sigma_{YY}^{-1/2}\시그마_{YX}\시그마_{XX}^{-1/2}c\오른쪽)^{1/2}\left(d^{}T}d\right)^{1/2}}$

$\displaystyle \rho \leq \frac(c^{)T}\Sigma _{X}^{-1/2}\Sigma _{X}Y}\Sigma_{YY}^{-1}\Sigma_{YX}\Sigma_{X}^{-1/2}c\오른쪽)^{\left(c^{}T}c\right)^{1/2}}.}$

$벡터{\displaystyle }$ d$\displaystyle$d와$$ ${\displaystyle y_{}^{}}$ ${\displaystyle Y_{\mathrm{Y}}^{}}$ -${\displaystyle {}_{}^{}}$1 / ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle Y_{}}$ X ${\displaystyle X_{}^{}}$- ${\displaystyle 1_{}^{}}$/ ${\displaystyle {}_{}^{}}$c \ $displaystyle$\$Sigma$_ {$YY}^{-1/2}\Sigma$ _${YX}\Sigma$ _${XX}^{-1/2$}c$$$}$가 동일선입니다.또한 c$${\$displaystyle$ c$}$가 행렬 ${\displaystyle {}_{}{\mathrm{}}_{}^{}}$ ${\displaystyle X_{}^{}}$-${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}}$ ${\displaystyle X_{}^{}}$ ${\displaystyle Y_{}{}_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle {\sigma }_{}}$ ${\displaystyle Y_{}}$ X - 1${\displaystyle {}_{\sigma }^{}}$ Y${\displaystyle {}_{}^{}}$X - ${\displaystyle {1\mathrm{}}_{}^{}}$ / 2 { \ ${\displaystyle {\mathrm{style}}_{}^{}}$ \ $Sigma$ \ { xx - 2 } X - 1 - X - 1 - 2$${ displaystyle \ $Sigma$ \ Sigma _ { x - 1 }^2$$} X - 2 $^{$ 2 } 행렬의 최대 고유값을 갖는 고유 벡터일 경우 $최대{\displaystyle }$ 상관관계를 얻을 수 있다.$Y}\Sigma_{$$YY}^{-1}\Sigma$ _${YX}\Sigma$ _${X}^{-1/2}}($레일리 지수 참조).후속 쌍은 크기가 감소하는 고유값을 사용하여 찾을 수 있습니다.직교성은 상관 행렬의 대칭에 의해 보장됩니다.

이 계산을 보는 또 다른 방법은 c$\displaystyle$$c$와 d$\displaystyle$d가 가장$$ 높은 단수값에 대응하는 X와 Y의 상관 행렬의 왼쪽 및 오른쪽 단수 벡터라는 $것$입니다.

솔루션

따라서 해결책은 다음과 같습니다.

• ${\displaystyle c}${\$displaystyle$ c$}$는 ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle X_{}^{}}$-${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle X_{}^{}}$ Y${\displaystyle {}_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle y_{}}$ Y ${\displaystyle X_{}}$ ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle X_{}^{}}$-${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$\ $display$style \ $Sigma$_ { X$}^{-1/2\ Sigma$_ { X }의 고유 벡터입니다.$Y}\Sigma_{$$YY}^{-1}\시그마_{YX}\시그마_{XX}^{-1/2}}$
• $\displaystyle$d는 is$$ ${\displaystyle Y_{}^{}}$-${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}^{}}$ Y ${\displaystyle X_{}^{}}$- ${\displaystyle 1_{}^{}}$/ ${\displaystyle {}_{}^{}}$c \ $displaystyle$\$Sigma$_ {$YY}^{-1/2}\시그마_{YX}\시그마_{XX}^{-1/2}c}$

상호 작용으로 다음과 같은 것도 있습니다.

• $\displaystyle$ d는$$${\displaystyle {\mathrm{an<img\; alt="d"\; aria-hidden="true"\; class="mwe-math-fallback-image-inline"\; src="https://wikimedia.org/api/rest\_v1/media/math/render/svg/e85ff03cbe0c7341af6b982e47e9f90d235c66ab"\; style="vertical-align:\; -0.338ex;\; width:1.216ex;\; height:2.176ex;">}}_{}^{}}$ ${\displaystyle Y_{}^{}}$ -${\displaystyle {}_1^{}}$/ ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}^{}}$ Y ${\displaystyle X_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle x_{}^{}}$ Y ${\displaystyle y_{}^{}}$ ${\displaystyle {}_{}{\mathrm{}}_{}^{}}$-${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$ \$displaystyle$\$Sigma$_ {$YY}^{-1/2}\시그마_{YX}\시그마_{X}^{-1}\시그마_{X$$}$$Y}\Sigma_{$$YY}^{-1/2}}$
• ${\displaystyle c}${\$displaystyle$ c$}$는 ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle X_{}^{}}$-${\displaystyle {}_{}^{}}$1 / ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {\sigma }_{}}$ ${\displaystyle X_{}}$ Y${\displaystyle {}_{\sigma }^{}}$ ${\displaystyle Y_{}^{}}$ -${\displaystyle 1_{}^{}}$ / ${\displaystyle {2\mathrm{}}_{}^{}}$ \ $displaystyle$\$Sigma$_ { X$}^{$- $1$/ 2 }\ $Sigma$ _ { X $}$$Y}\Sigma_{$$YY}^{-1/2}d}$

좌표를 바꿔서 보면

• $a(\displaystyle$a)는 ${\displaystyle {\sigma }_{}^{}}$X - 1 ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle X_{\mathrm{Y}}^{}}$ - ${\displaystyle {}_{}^{}{\mathrm{}}_{}}$ ${\displaystyle x_{}}$ Y$$X(\$display$ style $\Sigma$ _${X$}^{-1$}\Sigma$ _{$X$$})$의 고유 벡터입니다$.$$Y}\Sigma_{$$YY}^{-1}\Sigma_{YX$
• $(\displaystyle$ b$)$는 ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle Y_{\mathrm{Y}}^{}}$ - ${\displaystyle {}_{}^{}{\mathrm{}}_{}}$ ${\displaystyle x_{}}$ ${\displaystyle {}_{}}$X a$$;\ $displaystyle$\$Sigma$_ {$YY}^{-1}\Sigma_{YX}a;}$
• ${\displaystyle b}${\$displaystyle$ b$}$는 ${\displaystyle {\sigma }_{}^{}}$ ${\displaystyle Y_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle {\sigma }_{}^{}}$ Y ${\displaystyle X_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle {\sigma }_{}}$ ${\displaystyle X_{}}$Y 고유 벡터입니다$.\$ $displaystyle$\$Sigma$_ {$YY}^{-1}\시그마_{YX}\시그마_{XX}^{-1}\시그마_{XY}}$
• $(\displaystyle$ a$)$는 ${\displaystyle {\sigma }_{}^{}}$ X${\displaystyle {}_{}^{}}$- ${\displaystyle 1_{}^{}}$ ${\displaystyle {\sigma }_{}}$ X Y$$(\$displaystyle \Sigma$ _${XX}^{-1}\Sigma _{XY}$b$\}$에 비례합니다.

표준 변수는 다음과 같이 정의됩니다.

${\displaystyle U=c^{T}\Sigma _{XX}^{-1/2}X=a^{T}X}$

${\displaystyle V=d^{T}\Sigma_{YY}^{-1/2}Y=b^{T}Y}$

실행

CCA는 상관행렬상의 ^[5]특이값 분해를 사용하여 계산할 수 있다.의 기능으로^[6] 사용할 수 있습니다.

• 캐논코어로서의 MATLAB(옥타브)
• 표준 기능성 캔코어로서의 R과 CCA 및 비건(began)을 포함한 몇 가지 다른 패키지.표준 상관 분석에서 통계 가설 테스트를 위한 CCP.
• SAS를 proc cancorr로 사용
• 라이브러리의 Python은 Cross 분해로, Statsmodel은 CanCorr로 skit-learn합니다.
• 메인 소프트웨어와 함께 제공되는 매크로 CanCorr로서의 SPSS
• MultivariateStats.jl 패키지의 Julia(프로그래밍 언어)입니다.

상관 행렬에서 특이값 분해를 사용하는 CCA 계산은 평면 간 각도의 코사인(cosine)과 관련이 있다.코사인 함수는 작은 각도에 대해 잘못 조정되어 유한 정밀 컴퓨터 산술에서 고도로 상관된 주 벡터의 계산이 매우 부정확하게 됩니다.이 문제를 해결하려면 다음 사이트에서 대체 알고리즘을^[7] 사용할 수 있습니다.

• 선형 대수 함수로서의 SciPy_angles
• 파일 교환 함수 하위 공간으로서의 MATLAB

가설 검정

각 행의 중요성은 다음 방법으로 테스트할 수 있습니다.상관관계가 분류되었으므로 $(\displaystyle$ i$)$이 0이라고 하면 이후의 상관관계도 모두 0임을 의미합니다.샘플에 독립적인$$ $관측치가$p개 $있고{\displaystyle }$ ${\displaystyle {\stackrel{}{^}}_{}}$ ${\displaystyle i_{}}${ $displaystyle$$$${ widehat } _$ { ${\displaystyle i}$$$} { displaystyle i $=$1, ${\displaystyle ...}$,${\displaystyle }$m${\displaystyle }$, ${\displaystyle n}$ $}$ { $displaystyle$ i = 1$,\$displaystyle i$$= 1,\$displays$$,\$$min$ {$m,n\}}$} 의 ${\displaystyle \mathrm{추정}}$ 상관관계는 $다음$과 같습니다$.$

$\displaystyle \chi ^{2}=-\left(p-1-{\frac {1}{2}}(m+n+1)\ln \ln _{j=i}^{\min\{m,n\}}(1-{\widehat {rho}}}_{j}^{2}},},},\ln$

이후분{m, n}{\displaystyle \min\{m,n\}의 상관 관계}어느 점근적으로 한(m− 나는 + 1)(n− 나는 1+)과 자유도{\displaystyle(m-i+1)(n-i+1)}카이 제곱만큼 크게 와{p\displaystyle}.[8]을 논리적으로 제로다 동업-{p\displaystyle}에(그리고 추정했다 그 방향도)기 위해서는 분배된다그이 시점 이후의 조건에 대한 제품은 관련이 없습니다.

p< + \ $display style$p <$n$ + $m$}의 작은 샘플 크기 제한에서는 $상위{\displaystyle }$m +${\displaystyle n}$ -$$ \ $display style$m + n -$$p }의 상관관계가$$ 동일하게 1이므로 테스트는 의미가 없습니다.^[9]

실용적인 용도

실험 컨텍스트에서 표준 상관 관계의 일반적인 용도는 두 변수 집합을 취하여 두 ^[10]집합 간에 공통적인 것을 확인하는 것입니다.예를 들어, 심리 테스트에서는 미네소타 다단계 성격 목록(MMPI-2)과 NEO와 같이 잘 확립된 두 가지 다차원 성격 테스트를 받을 수 있다.MMPI-2 요인이 NEO 요소와 어떻게 관련되어 있는지 확인함으로써 테스트 간에 공통되는 차원과 공유되는 분산의 양에 대한 통찰력을 얻을 수 있었다.예를 들어, 외향성 또는 신경증 차원이 두 검정 사이의 상당한 양의 공유 분산을 설명한다는 것을 알 수 있다.

또한 표준 상관 분석을 사용하여 성능 측정 및 설명 변수 세트, 출력 세트 및 입력 세트 등 두 변수 세트를 관련짓는 모델 방정식을 생성할 수 있습니다.이론적 요건이나 직관적으로 명백한 조건을 반영하도록 그러한 모델에 제약조건을 부과할 수 있다.이러한 유형의 모형을 최대 상관 ^[11]모형이라고 합니다.

표준 상관 결과의 시각화는 보통 유의한 상관관계를 나타내는 표준 변수 쌍에 대한 두 변수 세트의 계수의 막대 그림을 통해 이루어진다.일부 저자들은 각 절반이 두 ^[12]변수 세트를 나타내며 선 모양의 막대가 있는 원형 형식인 헬리오그래프로 그림을 그리는 것이 가장 잘 시각화된다고 제안합니다.

예

X ${\displaystyle =}$ ${\displaystyle {}_{}}$ ({$style$ X$=x_{$1})로 $합니다{\displaystyle \mathrm{}}$.예: E ${\displaystyle (}$ (${\displaystyle X}$ ) ${\displaystyle =}$ \ $displaystyle \operatorname {E}$ (X) =$0$} 。

1. Y ${\displaystyle =}$ {$displaystyle$ Y$=X$ 즉$$X {$displaystyle$X}와$$Y {$displaystyle$ Y$}$가 완벽하게 상관되어 있는 $경우{\displaystyle }$, 예를 들어 a ${\displaystyle =}$$$${\displaystyle 1}$ {$displaystyle$ a$=1}$ $및{\displaystyle }$ b ${\displaystyle =}$ {$display$ b$=1$이므로 X의$$첫 번째(이 예에서만 해당)는 $표준{\displaystyle }$ 변수입니다.$playstyle$ V$=Y=X$ 입니다.
2. Y $=$ - $X(\style$ Y=-$X$ 즉 X$(\$$style$ X$)$와 Y$(\style$ Y$)$가 완전히 반상관적인 경우, $예$를 들어 a ${\displaystyle =}$(\$displaystyle$ a$=1}$ 및$$ $b{\displaystyle }$ $=$ - $(\displaystyle$ b=-1$)$과 $같이{\displaystyle }$ 첫 번째(및 이 예에서는 유일한) 변수만 표준 $쌍$입니다.${\displaystyle }$= $X(\displaystyle$ V=-$Y=X$

두 $경우{\displaystyle }$ 모두 U ${\displaystyle =}$ {\$displaystyle$ U$=V$이므로 표준 분석에서 상관 변수와 반상관 변수를 유사하게 취급한다는 것을 알 수 있습니다.

주각과의 연결

$X{\displaystyle }$ ${\displaystyle =}$ ( ${\displaystyle {}_{}{}_{}}$1 , ${\displaystyle ...}$ , x${\displaystyle {}_{}{}^{}{n}_{}}$ )$$ { { { $displaystyle$ X = ( $x$_ {$1}$ , \ $dots$, x$_$ { $n$} ^{$T}}$ $및$ Y ${\displaystyle =}$ ( ${\displaystyle {}_{}{}_{}{1\mathrm{}}_{}}$, ${\displaystyle ...}$ ,${\displaystyle {}_{}{}^{}{y}_{}}$ ${\displaystyle m^{}}$) T { { { $displaystyle$ Y = ( $y$_ {1$}$ , \ $dots$,$y$_ { $m$} ^{$T}}$의 기대치는 제로입니다.$즉{\displaystyle \mathrm{}}$, E ${\displaystyle (}$ (${\displaystyle X}$ ) ${\displaystyle =}$ ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ (${\displaystyle Y}$ ) ${\displaystyle =}$0 ( \ $displaystyle \operatorname {E}$ (X) = \$operatorname {E}$ (Y) = $0$） 。 공분산 행렬 ${\displaystyle \mathrm{\sigma }}$ ${\displaystyle X_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle \mathrm{Cov}}$= ${\displaystyle \mathrm{Cov}}$⁡ ( X ) ${\displaystyle =}$ X ) =$]$$YY=\operatorname {Cov}(Y,Y$)=\$operatorname {E}[YY^{T}}}$는 X$(\displaystyle$X$$)$및{\displaystyle }$ $Y$(\$displaystyle$ Y$)$ 엔트리의 내적에서 Gram 행렬로 볼 수 있다.이 해석에서는 랜덤$$변수인 $X$의 $\$$displaystyle$$$$x_{i$} $및$$Y의$$$$\$$displaystyle$ $y_{j}$는 공분산 cov$($$,$에 의해 주어진 내부 곱과 벡터 공간의 요소로 $취급$됩니다.$cov}(x_{i},y_{j$ ; "공분산#내적물과의 관계"

그러면 $표준{\displaystyle }$ 변수 U$(\displaystyle$ U$$$)$와$V$(\$displaystyle$V$$)의 정의는 이 내부 제품에 대한$X$(\$displaystyle$ X$$$)$와$$Y(\$displaystyle$ Y$)$의 엔트리에 의해 확장된 서브스페이스 쌍에 대한 주 벡터의 정의와 동일합니다.정준 상관 ${\displaystyle \mathrm{corr}\theta }$ (${\displaystyle }$U ,${\displaystyle V}$) { $displaystyle \operatorname${$corr$} ( $U$$$, V$)$는 주각의 코사인입니다.

미백 및 확률론적 표준 상관 분석

CCA는 화이트 벡터$$X ${\displaystyle C^{}}$$A$와 ${\displaystyle Y^{}}$ C $({$$CCA})$의 상호 상관관계가 대각선인 랜덤 $벡터{\displaystyle }$ $X{\displaystyle {}^{}}$({$displaystyle$$$X$})$와 Y({$displaystyle$ Y$})$가 동시에 변환되는 특수한 화이트닝 변환으로도 볼 수 있다$.$표준 상관관계는 X ${\displaystyle C^{}}$ $(\$ X$^{CCA})$와 ${\displaystyle Y^{}}$ C ${\displaystyle C^{}}$ $(\$ Y$^{CCA})$를 $연결$하는 회귀계수로 해석되며 음수일 수도 있습니다.^[13]CCA의 회귀 관점은 또한 CCA에 대한 잠재적 변수 확률론적 생성 모델을 구성하는 방법을 제공하며, 상관되지 않은 숨겨진 변수는 공유 및 비공유 가변성을 나타낸다.

「 」를 참조해 주세요.

• 일반화 표준 상관 관계
• RV 계수
• 평면 사이의 각도
• 주성분 분석
• 선형 판별 분석
• 정규화된 표준 상관 분석
• 특이값 분해
• 부분 최소 제곱법

레퍼런스

외부 링크

• 판별 상관 분석(DCA)(^[1]MATLAB)
• Hardoon, D. R.; Szedmak, S.; Shawe-Taylor, J. (2004). "Canonical Correlation Analysis: An Overview with Application to Learning Methods". Neural Computation. 16 (12): 2639–2664. CiteSeerX 10.1.1.14.6452. doi:10.1162/0899766042321814. PMID 15516276.
• 두 세트의 순위 점수에 대한 순서형 표준 상관 분석 (또한 FORTRAN 프로그램 제공)에 대한 참고 사항 - Journal of Quantitative Economics 7(2), 2009, 페이지 173–199
• 표현 제약 표준 상관 분석: 표준 상관관계와 주성분 분석의 하이브리드화 (포트란 프로그램도 제공) - 2009년 응용경제과학 저널 4(1), 페이지 115–124