화이트닝 트랜스포메이션

화이트닝 변환 또는 스퍼링 변환은 알려진 공분산 행렬이 있는 랜덤 변수의 벡터를 공분산이 동일 행렬인 새로운 변수 집합으로 변환하는 선형 변환입니다. 즉, 이 변수들은 상관 관계가 없으며 각각 분산 ^[1]1을 가집니다.이 변환은 입력 벡터를 흰색 노이즈 벡터로 변경하기 때문에 "화이트닝"이라고 불립니다.

다른 몇 가지 변형은 화이트닝과 밀접하게 관련되어 있습니다.

1. 장식 관계 변환은 상관 관계만 제거하고 분산은 그대로 유지합니다.
2. 표준화 변환은 분산을 1로 설정하지만 상관관계를 그대로 유지합니다.
3. 색 변환은 흰색 랜덤 변수의 벡터를 지정된 공분산 ^[2]행렬이 있는 랜덤 벡터로 변환합니다.

정의.

X$(\displaystyle$ X$)$가 비단수 공분산 행렬$\delta {\displaystyle \mathrm{}}$(\$displaystyle \Sigma)$ 및$$ $평균{\displaystyle \mathrm{}}$0(\$displaystyle$ 0$)$을 가진 랜덤(컬럼) 벡터라고 $가정$합니다.$그런{\displaystyle }$ 다음 조건 ${\displaystyle W^{}}$ ${\displaystyle T^{}}$ W ${\displaystyle {=}^{}}$ ${\displaystyle {\mathrm{}}^{}}$ \ $displaystyle$ W$$$=$ 1 \ $displaystyle$W ^ { \ $mathrm${ T }$$W$$= \ Sigma ^ { - $1$} W ${\displaystyle =}$ \ Sigma ^ { - 1 $}$ ${\displaystyle {\mathrm{W}}^{}}$ = ${\displaystyle W}$= $WX$ (\ $displaystyledisplaystyle$ Y$$= \ displaystyle = \ sigma ^ { { } )를 사용하여 흰색 $랜덤{\displaystyle }$ 공변환한다.

상기의 조건을 만족시키는 미백 $매트릭스{\displaystyle }$ W$(\displaystyle$ W$)$는 무한히 많습니다.일반적으로 사용하는 선택 W= Σ − 1/2{\displaystyle W=\Sigma ^{-1/2}}(마할라노비스 또는 ZCA 미백), W)나는 T{\displaystyle W=L^{T}}Σ − 1{\displaystyle \Sigma ^{)}}(Cholesky 미백)[3]또는 Σ{\displaystyle \S의 eigen-system의 L{L\displaystyle}은 Cholesky 분해하는 것입니다.i$gma$}($$PCA 미백).^[4]

최적의 치아 미백 시술을 태양이 예를 들어, 이 독특한 최적 치아 미백 시술 변환 원래의 X{X\displaystyle}사이에 최대 component-wise 상관 관계가 달성하고 하얗게 질리Y{\displ X{X\displaystyle}, Y{Y\displaystyle}.[3]의 cross-covariance과 교차 상관 관계 조사해서 뽑힐 수 있다.ays$Tyle$Y는$$ 미백 $행렬{\displaystyle }$ W ${\displaystyle {=}^{}}$ ${\displaystyle {\mathrm{P}}^{}}$ -${\displaystyle {1\mathrm{}}^{}}$ /${\displaystyle {}^{}{}^{}{}^{}}$ V -${\displaystyle 1^{}}$/ ${\displaystyle {2\mathrm{}}^{}}$ { $display$ W =$P$$$^ { - 1 /$2 V$^ { - 1 $/ 2$ } (P { displaystyle $P$}는$$$$ 상관 행렬,$V{\displaystyle }$ { \ $displaystyle$ V$}$는 분산 행렬)에 의해 생성된다.

데이터 매트릭스 화이트닝

데이터 행렬 미백은 랜덤 변수와 동일한 변환을 따릅니다.경험적 화이트닝 변환은 공분산 추정(예를 들어 최대우도) 후 대응하는 추정 화이트닝 매트릭스 구성(예를 들어 콜레스키 분해)에 의해 얻어진다.

R의 실장

ZCA 화이트닝, PCA 화이트닝, CCA 화이트닝을 포함한 R의 몇 가지 화이트닝 시술의 구현은 CRAN에 게시된 "화이트닝" R 패키지에서 이용할 수 있습니다.

「 」를 참조해 주세요.

• 장식 관계
• 주성분 분석
• 가중 최소 제곱
• 표준 상관

레퍼런스

외부 링크

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• ZCA 화이트닝 트랜스포메이션.A. Krizhevsky의 작은 이미지에서 여러 층의 특징을 학습하는 부록 A.