기능주성분 분석

기능주성분 분석(FPCA)은 기능 데이터의 지배적 변동 모드를 조사하기 위한 통계적 방법이다.이 방법을 사용하면 임의 함수가 고유바시스(eigenbasis)에 나타나는데, 이는 자기공명 연산자의 고유기능으로 구성된 힐버트 공간² L의 정형근거다.FPCA는 일정한 수의 기본 함수를 사용할 때 고유함수 기반이 다른 기본 확장보다 더 많은 변동을 설명한다는 점에서 가장 가차없는 방식으로 기능 데이터를 나타낸다.FPCA는 무작위 함수를 나타내거나 ^[1]기능 회귀^[2] 및 분류에 적용할 수 있다.

공식화

정사각형 통합형 확률적 공정 X(t), t 𝒯 for의 경우 다음과 같이 한다.

${\displaystyle \mu(t)={\text{E}(X(t))}$

그리고

${\displaystyle G(s,t)={\text{Cov}}(X), X(t)=\sum _{k=1}^{\c=1}\lambda _{k}\varphi _{k}\varphi _{k}(t),}$

${\displaystyle \mathrm{여기}}$서 $\lambda {\displaystyle {}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$ ${\displaystyle {}_{}}$ $λ$ ${\displaystyle {2\mathrm{}}_{}}$ 2${\displaystyle \ge }$ . .${\displaystyle \ge }$ 0 ${\displaystyle$\ \$da \{1}\geq \lambda$$\{2}\geq$...$\geq 0}$은 고유값이고 $and{\displaystyle {}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$ ${\$ ${\displaystyle {\phi \mathrm{}}_{}}$ 2 ${\$}} $\}$은 선형 Hilbert-Schmidt 연산자의 직교 고유 특성이다.

$[\displaystyle G:L^{2}({\mathcal {T})\오른쪽 화살표 L^{2}({\mathcal {T}),\,G(f)=\int_{\mathcal {T}G,t)fds.}$

카루넨-로이브 정리에 의해, 고유바시스에서 중심 과정을 표현할 수 있다.

${\displaystyle X(t)-\mu(t)=\sum _{k=1}^{\infit }xi _{k}\varphi _{k}(t),}$

어디에

${\displaystyle \xi _{k}=\int _{\mathcal {T}(X(t)-\mu(t)\varphi _{k}(t)dt}$

k-th 고유함수 ${\displaystyle {\phi }_{}}$ k ${\$과$($와) 관련된 주요 성분이며, 속성은 다음과 같다.

${\displaystyle{\text{E}(\xi _{k})=0,{\text{Var}(\xi _{k})=\lambda_{k}{k}{k} 및 }{\ext{E}(xi _{k}xi _{l}=0\text{}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}$

그러면 중심 공정은 ξ₁, ξ₂, ....에 해당한다.일반적인 가정은 X가 (평균함수를 뺀 후) 처음 몇 개의 고유함수로만 표현될 수 있다는 것이다.

${\displaystyle X(t)\관련 X_{m}(t)=\mu(t)+\sum _{k=1}^{m}\xi _{k}\varphi _{k}(t),}$

어디에

${\displaystyle \mathrm {E} \left(\int _{\mathcal{T}\left(X(t)-X_{m}(t)\right)^{2}dt\=\sum _{j}\lambda _{j}\rightrow 0{}}}}}\text{{}}}}}}}}}}}}}}}}\m\righttext}$

고유특성의 해석

첫 번째 고유함수 $\phi {\displaystyle {}_{}}$ ${\displaystyle {1\mathrm{}}_{}}$ ${\$}는 X의 지배적인 변동 모드를 묘사한다$$.

${\displaystyle \varphi _{1}={\underset {\Vert \mathbf {\varphi } \Vert =1}{\operatorname {arg\,max} }}\left\{\operatorname {Var} (\int _{\mathcal {T}}(X(t)-\mu (t))\varphi (t)dt)\right\},}$

어디에

${\displaystyle \vert \mathbf {\varphi } \vert =\왼쪽(\int_{\mathcal{T}\varphi (t)^{2}dt\right)^{\frac {1}{1}{2}}}.}$

k-th 고유함수$$ k {\$displaystyle \varphi _{k}}$는 ${\displaystyle {\phi \mathrm{}}_{}}$ 1 ${\$$\phi {\displaystyle {}_{}}$ ${\displaystyle {2\mathrm{}}_{}}$ ${\$ $\phi {\displaystyle {}_{}}$ ${\displaystyle {\mathrm{k}}_{}}$- 1 ${\$에 직교차 변동의 지배적인 모드인 것이다$.$

${\displaystyle \varphi _{k}={\underset {\Vert \mathbf {\varphi } \Vert =1,\langle \varphi ,\varphi _{j}\rangle =0{\text{ for }}j=1,\dots ,k-1}{\operatorname {arg\,max} }}\left\{\operatorname {Var} (\int _{\mathcal {T}}(X(t)-\mu (t))\varphi (t)dt)\right\},}$

어디에

${\displaystyle \langle \varphi ,\varphi _{j}\rangele =\int_{\mathcal{{T}\varphi (t)\j}dt,{\text{}{}j=1,\dots,k-1용.}$

추정

레트 Yij)Xi(tij)+εij이 관찰에 위치(보통 포인트 시간을 재시는군)tij, 자이는i-th 실현의 원활한 통계적 과정은 생성 데이터 및 εij 있은 동일하고 독립적으로 분산 정상적인 확률 변수와 평균 0과 가변성 σ2, j=1,2,..., mi.만약 고밀도의 평균 기능 μ(tij)의 견적서를 받기 위해.일반 그리드의 표본을 사용할 수 있으며, 각 위치 t_ij:

${\displaystyle {\hat {\mu }(t_{ij})={\frac {1}{n}\sum _{i=1}^{n}Y_{ij}}$

관측치가 희박한 경우 국소 선형 평활 또는 스플라인 평활과 같은 평활 방법을 사용하여 ^[3]평균 추정치를 얻기 위해 모든 관측치로부터 수집된 데이터를 평활해야 한다.

그런 다음 공분산 함수 $G{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$( ${\displaystyle s}$, ${\displaystyle t}$) ${\displaystyle {\hat {\G}(s,t)}$의 추정치는 원시 공분산 함수를 평균(밀도 있는 경우) 또는 평활(희박된 경우)하여 구한다$$.

${\displaystyle G_{i}(t_{ij},t_{il})=(Y_{ij}-{\hat{\mu }}}}(t_{ij})(Y_{il}-{\hat {\mu }}}(t_{il}),j\neq l,i=1,\dots,n.}$

G의_i 대각선 원소는 측정 오차를 포함하므로 제거해야 한다는 점에 유의하십시오.^[4]

실제로 $G{\displaystyle \stackrel{}{}^(s}$, ${\displaystyle t}$) ${\displaystyle {\hat {\G}(s,t)}$은(는) 등간격 밀도 격자로 디스코팅되며 고유값 λ과_k 고유벡터 v의_k 추정이 수치 선형대수에 의해 수행된다.^[5]고유함수 추정치 $\phi {\displaystyle {\stackrel{}{}}_{}}$ ${\displaystyle {\stackrel{}{^}}_{}}$ ${\displaystyle k_{}}$ ${\$은(는) 고유 $벡터{\displaystyle \stackrel{}{{}_{}}}$ ${\displaystyle \stackrel{}{v_{}}}$ ${\displaystyle \stackrel{}{{}_{}}}$. {\$displaystyle {\v_{$k}}}}을(를) 보간하여 얻을 수 있다$$.$}$

적합 공분산은 양의 한정적이고 대칭이어야 하며, 그 다음 다음과 같이 구해야 한다.

${\displaystyle {\tilde{G}}=\sum _{\lambda _{k}0}{\hat {\lambda }}}{k}{\varphi }}{\hat {\barphi }}}{\hat {\varphi}}(t).}$

$V{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$( ${\displaystyle t}$) ${\displaystyle {\hat{V}(t)}$을(를) 원시 공분산 행렬의 대각선 원소 G_i(t_ij, t_ij)의 평활 버전으로 한다$$.그러면 $V{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$( ${\displaystyle t}$) ${\displaystyle {\hat {V}(t)}}$의 추정치가 (G(t, t) + σ²)이다$$.σ의² 견적은 다음과 같다.

σ ^ 2=2T∫ T(V^(t)− G~(t, t))d,{\displaystyle{\hat{\sigma}}^{2}={\frac{2}{{{T\mathcal}}}}\int _{{T\mathcal}}({\hat{V}}(t)-{\tilde{G}}(t,t))dt,}만약σ ^ 2>0;{\displaystyle{\hat{\sigma}}^{2}>, 0;} 그렇지 않으면σ ^ 2=0.{\displayst.$yle {\hat {\\hatma }^{2}=0.$$}$

관측치 X_ij, j=1, 2, ..., m이_i 𝒯에서 밀도인 경우, k번째 FPC ξ을_k 수치적 통합으로 추정하여 구현할 수 있다.

${\displaystyle {\hat{\xi }_{k}=\langle X-{{{\hat {\\mu }},{\hat {\varphi }}}}$

그러나 관측치가 희박하면 이 방법은 효과가 없다.대신에, 사람들은 양보하면서 ^[3]가장 좋은 선형 불편 예측 변수를 사용할 수 있다.

${\displaystyle {\hat{\xi }_{k}={\hat {\barphi }{k}{\hat {\varphi }}^{\data.{k}}}{\hat {\varphi }^{}}}T}{\hat {\Sigma }}}{{Y_{i}}^{-1}(Y_{i}-{\hat{\mu }}),}$

어디에

${\$$Y_{i}}={\tilde{G}+{\hat{\sigma }}^{2}\mathbf {I} _{m_{i$

및 $G{\displaystyle \stackrel{}{}}$~ ${\$는 t_ij, j = 1, 2, ..., m에 의해 생성된_i 그리드 지점에서 평가된다. 알고리즘인 PACE는 사용 가능한 Matlab 패키지와^[6] R 패키지를^[7] 가지고 있다.

이러한 추정치의 점근 융복합 성질이 조사되었다.^[3][8][9]

적용들

FPCA는 서로에 대한 ^[1][10]FPC의 산포도 또는 FPC에 대한 반응의 산포도에 기능변동 모드를 표시하거나 희박한 종방향 데이터를 모델링하거나 ^[3]기능적 회귀 및 분류(예: 기능적 선형 회귀)에 적용할 수 있다.^[2]스크리 플롯 및 기타 방법을 사용하여 포함된 성분의 수를 결정할 수 있다.기능 주성분 분석은 시계열 분석에서 다양한 응용 분야를 가지고 있다.오늘날 이 방법론은 전통적인 다변량 기법을 채택하여 주식 시장 지수, 묵시적 변동성 그래프 생성 등과 같은 금융 데이터 세트에 대한 분석을 수행하고 있다.^[11]기능적 접근법의 장점을 보여주는 매우 좋은 예는 Silverman[1996]이 제안하고 Pezulli와 Silverman[1993]이 연구한 Smoothed FPCA(Smoothed FPCA)로, FPCA 분석을 일부 선형 차등 연산자에 저장된 정보를 사용하는 일반 스무딩 접근법과 함께 직접 결합할 수 있다.허용. 다변량 PCA에서 이미 알려진 FPCA의 중요한 적용은 기능 매개변수 집합(요인 함수 및 해당 인자 하중)에 대한 무작위 함수의 Karhunen-Loeve 분해에 의해 동기 부여된다.랜덤함수의 분포는 일반적으로 직접 분석하기에는 너무 복잡하고 카루넨-로이브 분해는 인자함수의 해석과 스칼라 랜덤 변수의 분포로 분석을 줄이기 때문에 이 적용은 표준 다변량 PCA보다 훨씬 중요하다.데이터를 나타내는 정확성뿐만 아니라 차원성 감소로 인해, 금융 분야의 기능적 주성분 기법의 추가 개발 범위가 넓다.

주성분 분석과의 연결

다음 표는 PCA(주성분 분석)와 FPCA(주성분 분석)의 다양한 요소를 비교한 것이다.두 가지 방법은 모두 차원성 감소에 사용된다.구현에서 FPCA는 PCA 단계를 사용한다.

그러나 PCA와 FPCA는 일부 중요한 측면에서는 차이가 있다.첫째, PCA의 다변량 데이터의 순서는 서열화할 수 있어 분석에 영향을 미치지 않지만, 기능 데이터의 순서는 시간이나 공간 정보를 담고 있어 재서열할 수 없다.둘째, FPCA에서는 간격 문제가 없는 반면 FPCA에서는 관측치 간격이 중요하다.셋째, 일반 PCA는 정규화 없이 고차원 데이터에서는 작동하지 않는 반면, FPCA는 기능 데이터의 매끄러움과 제한된 수의 포함된 구성요소로 잘려져 내장된 정규화가 있다.

요소	PCA에서	FPCA에서
데이터	${\displaystyle X\in \mathb {R} ^{p}}$	${\displaystyle X\in L^{2}({\mathcal {T})}$
치수	$"displaystyle p."$	$\displaystyle \infit }$
평균	${\displaystyle \mu ={\text{E}(X)}$	${\displaystyle \mu(t)={\text{E}(X(t))}$
공분산	${\displaystyle {\text{Cov}(X)=\Sigma _{p\time p}}$	${\displaystyle {\text}(X),X(t)=G(s,t)}$
아이겐값	${\displaystyle \poda _{1},\pda _{2},\p}$	${\displaystyle \lambda _{1},\lambda _{2},\displaysty }$
고유 벡터/ 고유 기능	${\displaystyle \mathbf {v} _{1},\mathbf {v} _{2},\mathbf {v} _{p}}}$	${\displaystyle \varphi _{1}(t),\varphi _{2}(t),\displaystyle }$
이너 제품	${\displaystyle \langle \mathbf {X},\mathbf {Y} \angle =\sum _{k=1}^{p}X_{k}Y_{k}}}$	${\displaystyle \langle X,Y\rangele =\int_{\mathcal{T}X(t)Y(t)dt}$
주성분	${\displaystyle z_{k}=\langle X-\mu ,\mathbf {v_{k}}\angle ,k=1,2,\dots,p}$	${\displaystyle \xi _{k}=\langle X-\mu,\varphi _{k}\angle, k=1,2,\dots }}$

참고 항목

• 주성분 분석

메모들

참조

• James O. Ramsay; B. W. Silverman (8 June 2005). Functional Data Analysis. Springer. ISBN 978-0-387-40080-8.