반복 필터링

반복 필터링 알고리즘은 부분적으로 관측된 동적 시스템에서 최대 가능성 추론을 위한 도구다.알 수 없는 매개변수에 대한 확률적 섭동은 매개변수 공간을 탐색하는 데 사용된다.이 확장 모델에 순차적인 몬테카를로(입자 필터)를 적용하면 데이터와 더 일치하는 매개변수 값을 선택하게 된다.연속적으로 감소된 동요를 반복하면서 적절하게 구성된 절차는 최대우도 추정치에 수렴한다.^[1][2][3]반복 필터링 방법은 지금까지 전염병 전염 역학을 연구하는 데 가장 광범위하게 사용되어 왔다.사례 연구로는 콜레라,^[4][5] 에볼라 바이러스,^[6] 인플루엔자,^{[7][8][9][10]} 말라리아,^[11][12][13] HIV,^[14] 백일해,^[15][16] 소아마비 바이러스^[17], 홍역 등이 있다.^[5][18]이러한 방법에 적합하다고 제안된 다른 분야로는 생태학적 역학^[19][20] 및 금융이 있다.^[21][22]

매개변수 공간에 대한 동요는 몇 가지 다른 역할을 한다.첫째로, 그들은 우도 표면을 매끄럽게 하여 알고리즘이 글로벌 검색의 초기 단계에서 우도의 작은 특징을 극복할 수 있게 한다.둘째로, 몬테카를로 변형은 이 지역 미니마에서 검색을 탈출하게 한다.셋째, 반복 필터링 업데이트는 로그 우도의 파생상품에 대한 근사치를 구성하기 위해 혼란스러운 매개변수 값을 사용한다. 이 양은 일반적으로 닫힌 형태로 제공되지 않지만 말이다.넷째, 매개변수 섭동은 순차적인 몬테카를로 동안에 발생할 수 있는 수학적 난관을 극복하는데 도움이 된다.

개요

데이터는 ${\displaystyle {1\mathrm{}}_{}}$ < 2<t < > < t > ${\$$displaystyle y_{1},\dots,y_{N}}$에서 수집된 $시계열{\displaystyle {}_{}}$ y 1,${\displaystyle }$… ${\$$displaystyle t_{$1}<$t_{N}}$.동적 시스템은 마르코프 프로세스$$ $X{\displaystyle (t}$ ) {\$displaystyle X(t)}$에 의해 모델링되며, 이 프로세스$$ $($x${\displaystyle ,}$ ${\displaystyle s,}$ ${\displaystyle t,}$ ${\displaystyle \theta ,}$ ${\displaystyle W}$) ${\displaystyle f(x,s,t,\ta ,W)}$에 의해 생성된다.

${\displaystyle X(t_{n}^{}})=f(X(t_{n-1}^{}),t_{n-1}^{}{n}^{}}},\ta ,W)}$

여기서 $\theta {\displaystyle }$ ${\displaystyle \theta}$은(는) 알 수 없는 매개 변수의 벡터이고 $W{\displaystyle }${\$displaystyle W$}은${\displaystyle (}$는${\displaystyle )}${\$displaystyle f(.)}$이(가) 평가될 때마다 독립적으로 그려지는 일부 랜덤 수량이다$$.어느 순간에 초기 조건 X(t 0){X(t_{0})\displaystyle};t_{1}}초기화 기능, X(t 0))h(θ){X(t_{0})=h(\theta)\displaystyle}. 용적 밀도 g(y와 Xn, 터, θ){\displaystyle g(y_{n}X_{n}에 의해 지정된다 0<>는 과목은 1{\displaystyle t_{0}< t.,t_{$n},\theta )}$은(는) 부분적으로 관측된 마르코프 프로세스의 사양을 완료한다$$.우리는 기본적인 반복 필터링 알고리즘(IF1)^[1][2]과 뒤이어 반복되고 혼란스러운 베이즈 맵(IF2)을 구현하는 반복 필터링 알고리즘을 제시한다.^[3][23]

절차:반복 필터링(IF1)

입력:부분적으로 관찰된 마르코프 모델 위와 같이 지정된, 몬테 카를로 표본 크기 J{J\displaystyle};반복 M{M\displaystyle}의 숫자였을 것이다;매개 변수 0<>냉각;<1{\displaystyle 0<, a< 1}과 b{\displaystyle b};covariance 행렬 Φ{\displaystyle \Phi};초기 매개 변수 벡터. θ(1)${\displaystyle \theta ^{(1)}$

$m$${\displaystyle {}_{}^{}}$= ${\displaystyle 1}$ ${\displaystyle m_{}^{}^$1}=1$}$~ $M{\displaystyle {}_{}^{}}$ $displaystyle M_{}^{}}}}$에 대해

draw ${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\theta ^{(m)},ba^{m-1}\Phi )}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$ for ${\displaystyle j=1,\dots ,J}$

set${\displaystyle \stackrel{}{(}}t{\displaystyle \stackrel{}{}{0\mathrm{}}_{}^{}}$ )${\displaystyle {}_{}^{}}$=${\displaystyle {}^{}}$(${\displaystyle m^{}}$)${\displaystyle {}^{}}$= $\($ ) {\displaystyle ${\\bar{\teta}}}(t_{0}^{}})=\tta ^{(m)}}}}}}}$

$n$${\displaystyle {}_{}^{}}$= ${\displaystyle 1}$ ${\displaystyle n_{}^{}^$1}=1$}$~ $N{\displaystyle {}_{}^{}}$ $displaystyle N_{}^{}}}}$에 대해

draw ${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},j),a^{m-1}\Phi )}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle w(n,j)=g(y_{n} X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))}$ for ${\displaystyle j=1,\dots ,J}$

draw ${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$ such that ${\displaystyle P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )}$

set ${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$ and ${\displaystyle \Theta _{F}(t_{n}^{},j)=\$$Theta _{P}(t_{n}}^{}},k_{j}^{}})$ for j$$${\displaystyle }$= 1, … ,${\displaystyle J}$ ${\displaystyle j=1,\dots ,J}$

$\theta {\displaystyle {\stackrel{\text{'}}{}i}_{}^{}}$( ${\displaystyle {}_{}^{}}$ ${\displaystyle n_{}^{}}$) ${\displaystyle {\\$displaystyle ${\\tea}^{i}^{}{}}{{n}^{}}}$을$({\displaystyle }$를) ${\displaystyle {샘플}_{}^{}}$ 평균 { ${\displaystyle {,}_{}^{}}$ ${\displaystyle F_{}^{}}$ , i${\displaystyle {}_{}^{}}$(${\displaystyle t_{}^{}n}$,${\displaystyle }$j )${\displaystyle }$, ${\displaystyle \mathrm{j}}$ = 1${\displaystyle }$,${\displaystyle J\}}$ ${\displaystylease \{\}$로 설정하십시오.$Theta _{$${\displaystyle {\mathrm{}}_{,i}^{}}$$}^{}^{}}{n}^{}}},j=1,\dots,J$ 벡터$$ ${\displaystyle {vectorF}_{}^{}}$ $displaystyle \Theta_$${\displaystyle {}_{}^{}}$$F}^{}}}}}}{\$$displaystystystyle$\{\}}}}}}}}.$세타 _{F,i}^{}\}}}$

${\displaystyle V_{}^{}}$ ${\displaystyle i_{}^{}}$( ${\displaystyle {}_{}^{}}$ ${\displaystyle n_{}^{}}$) ${\displaystyle V_{i}^{}{}($${\displaystyle {}_{}^{}}$${n}^{}})$의 표본 분산을 {${\displaystyle i_{}^{}}$P , i${\displaystyle {}_{}^{}}$( t${\displaystyle {}_{}^{}{n}_{}^{}}$ ,${\displaystyle j}$) ,${\displaystyle j}$ = ${\displaystyle 1}$, ${\displaystyle ...}$ ${\displaystyle J\}}$ ${\displaystyle \{\}$의 표본 분산으로 설정하십시오$$.$세타 _{P,i}^{}^{}(t_{n}^{}}j),j=1,\dots,J\}}}$

set ${\displaystyle \theta _{i}^{(m+1)}=\theta _{i}^{(m)}+V_{i}(t_{1})\sum _{n=1}^{N}V_{i}^{-1}(t_{n})({\bar {\theta }}_{i}(t_{n})-{\bar {\theta }}_{i}(t_{n-1}))}$

출력: 최대우도 $추정치{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$ =${\displaystyle }$^(${\displaystyle M^{}}$+${\displaystyle 1^{}}$ $){\$

변형

1. 초기 조건의 $사양$인${\displaystyle {}_{}}$ (${\displaystyle {}_{}{t\mathrm{}}_{}}$ 0$$) {\$displaystyle X(t_{$0}})에서만 모델을 입력하는 IF1의 경우$,$ 데이터에 대한 정보가 시계열의 작은 부분에 집중될 수 있기 때문에 일부 특별한 알고리즘 주의가 필요하다.^[1]
2. 이론적으로 필요한 평균과 분산이 있는 모든 분포는 정규 분포 대신 사용될 수 있다.정규 분포를 사용하고 가능한 모수 값에 대한 제약조건을 제거하기 위해 다시 정렬하는 것이 표준적이다.
3. IF1 알고리즘의 수정은 탁월한 점증적 성능을 제공하도록 제안되었다.^[24][25]

절차:반복 필터링(IF2)

입력:부분적으로 관찰된 마르코프 모델 위와 같이 지정된, 몬테 카를로 표본 크기 J{J\displaystyle};반복 M{M\displaystyle}의 숫자였을 것이다;매개 변수 0<>냉각;<1{\displaystyle 0<, a< 1};covariance 행렬 Φ{\displaystyle \Phi};초기 매개 변수 벡터{Θ j, j=1,…, J}{\di.splaystyle)${\theta _{j}j=1,\dots,J\}}$

$m$${\displaystyle {}_{}^{}}$= ${\displaystyle 1}$ ${\displaystyle m_{}^{}^$1}=1$}$~ $M{\displaystyle {}_{}^{}}$ $displaystyle M_{}^{}}}}$에 대해

set ${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\Theta _{j},a^{m-1}\Phi )}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$ for ${\displaystyle j=1,\dots ,J}$

$n$${\displaystyle {}_{}^{}}$= ${\displaystyle 1}$ ${\displaystyle n_{}^{}^$1}=1$}$~ $N{\displaystyle {}_{}^{}}$ $displaystyle N_{}^{}}}}$에 대해

draw ${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},k_{j}^{}),a^{m-1}\Phi )}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$ for ${\displaystyle j=1,\dots ,J}$

set ${\displaystyle w(n,j)=g(y_{n} X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))}$ for ${\displaystyle j=1,\dots ,J}$

draw ${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$ such that ${\displaystyle P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )}$

set ${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$ and ${\displaystyle \Theta _{F}(t_{n}^{},j)=\$$Theta _{P}(t_{n}}^{}},k_{j}^{}})$ for j$$${\displaystyle }$= 1, … ,${\displaystyle J}$ ${\displaystyle j=1,\dots ,J}$

$\theta {\displaystyle {\mathrm{}}_{}}$ ${\displaystyle j_{}}$ =${\displaystyle {}_{}{\theta }_{}}$ F${\displaystyle {}_{}}$( t ${\displaystyle N_{}^{}}$, ${\displaystyle j}$) ${\displaystyle \theta _{j}=\$$Theta _{F}(t_{N}^{}}j})$ for j$$${\displaystyle }$= ${\displaystyle 1}$, ${\displaystyle \dots ,J}$ ${\displaystyle j=1,\dots,J}$

출력: 최대우도 추정치에 근접한 파라미터 벡터$,{\displaystyle }$ { ${\displaystyle {\theta }_{}}$ j${\displaystyle {}_{}}$, ${\displaystyle j}$= ${\displaystyle 1}$ , ${\displaystyle ...}$, ${\displaystyle J}$ ${\displaystyle \}}$ ${\displaystyle \{\}$$세타 _{j},j=1,\dots,J\}}$

소프트웨어

"pomp: 부분적으로 관찰된 마르코프 프로세스에 대한 통계적 추론" : R 패키지.

참조