정보장 이론

정보장 이론(IFT)은 신호 재구성, 우주론 및 기타 관련 영역과 관련된 베이지안 통계장 이론이다.^[1]^[2]IFT는 베이지안 확률을 사용하여 물리적 영역에서 사용할 수 있는 정보를 요약한다.양자장 이론과 통계장 이론을 위해 개발된 연산 기법을 사용하여 한 분야의 무한한 자유도를 처리하고 필드 기대값 계산을 위한 알고리즘을 도출한다.예를 들어, 알려진 가우스 공정에 의해 생성되고 알려진 가우스 소음 통계가 있는 선형 장치에 의해 측정된 필드의 후방 기대값은 측정 데이터에 적용된 일반화된 Wiener 필터에 의해 제시된다.IFT는 이러한 알려진 필터 공식을 비선형 물리학, 비선형 장치, 비 가우스 필드 또는 소음 통계량, 필드 값에 대한 소음 통계량의 의존성 및 부분적으로 알려지지 않은 측정 파라미터의 상황으로 확장한다.이를 위해 파인만 도표, 중성화 흐름 방정식 및 수학적 물리학의 다른 방법을 사용한다.^[3]null

동기

분야는 과학, 기술, 경제에서 중요한 역할을 한다.그것들은 위치의 함수로서 공기 온도와 같은 양의 공간적 변화를 설명한다.필드의 구성을 아는 것은 큰 가치가 있을 수 있다.그러나 필드의 측정은 결코 정확한 필드 구성을 확실하게 제공할 수 없다.물리적 장은 무한한 자유도를 가지지만, 어떤 측정장치에서 생성되는 데이터는 항상 유한하기 때문에 현장의 제약조건이 한정되어 있을 뿐이다.따라서 측정 데이터만으로는 그러한 분야를 모호하지 않게 추론할 수 없으며, 그 분야에 대한 진술을 위한 수단으로 확률론적 추론만 남아 있다.다행히도, 물리 분야는 상관관계를 보이고 종종 알려진 물리 법칙을 따른다.그러한 정보는 측정 지점에 대한 자유도의 불일치를 극복하기 위해 현장 추론에 가장 잘 융합된다.이를 다루기 위해서는 분야별 정보이론이 필요하며, 그것이 바로 정보분야 이론이다.null

개념

베이시안 추론

$s(x)$ ( $s(x)$ ) $s(x)$ 은 $s(x)$ $x\in \Omega$ (는) $\Omega$ $\Oomega$ 공간에 $x\in \Omega$ 위치 x ∈ $x\in \Omega$ ${\displaystyle$ x\ $in \Oomega$ }에서 필드 값이며 $\Omega$ 알 수 없는 신호 $필드$ s ${\$ $displaystyle$ s $}$ 에 대한 사전 지식은 $s$ 확률 분포 ${\mathcal {P}}(s)$ $s) {\mathcopep$ 데이터 $d$ {\ $displaystyle d$ }은 ${\mathcal {P}}(d|s)$ (는) 후방 확률에 통합되는 우도 P ${\mathcal {P}}(d|s)$ $){\displaystyle {\mathcal {p}(d)}$ 을(를) 통해 $s$ $s$ ${\displaystyle$ s $}$ 에 대한 추가 정보를 제공한다 $d$ .

{\mathcal {p}(s d)={\frac {{\mathcal {{P}(d)\\\mathcal {p}{\mathcal {p}(d)}}}}

베이즈 정리대로null

정보 해밀턴식

IFT 베이즈 정리에서는 보통 통계장 이론의 언어로 다시 쓰여진다.

{\mathcal {\mathcal {p}(d)={\frac {{\mathcal {{P}(d)}{\mathcal{-{-{\mathcal{H}s}}}}}{\mathcal {Z}d},}}}}

해밀턴의 정보로

{\dmathcal {\mathcal {H}(d,s)\equiv -\ln {\mathcal {p}-\ln {p}(d)-\ln {\mathcal {P}-\mathcal {H}+{mathcal}, {H}}}, {\mathcal}, {h}},},},}

데이터 및 신호의 공동 확률과 파티션 함수의 음수 로그

{\mathcal {Z}(d)\equiv {\mathcal {{P}(d)=\int {\mathcal {D}s\,{\mathcal {P}(d,s).

이러한 베이즈 정리의 개혁은 통계장 이론과 양자장 이론의 처리를 위해 개발된 수학적 물리학의 방법의 사용을 허용한다.null

필드

필드의 자유도는 무한하므로 필드 구성 공간에 대한 확률의 정의에는 미묘한 차이가 있다.물리적 장을 기능 공간의 요소로 식별하는 것은 르베그 측정이 후자에 걸쳐 정의되어 있지 않기 때문에 확률 밀도는 거기서 정의될 수 없다는 문제를 제공한다.그러나 물리적 장은 대부분의 위치에서 연속적이고 매끄러워 기능 공간의 대부분의 요소보다 훨씬 규칙성이 높다.따라서 덜 일반적이지만 충분히 유연한 구조는 필드의 무한한 자유도를 처리하는 데 사용될 수 있다.null

실용적 접근법은 그 분야를 픽셀 단위로 치부하는 것이다.각 픽셀은 픽셀 볼륨 내에서 일정하다고 가정되는 단일 필드 값을 전달한다.연속 필드에 대한 모든 문장은 픽셀 표현으로 주조되어야 한다.이러한 방식으로, 확률 밀도가 충분히 정의 가능한 유한 치수 자기장 공간을 다룬다.null

또한 이 설명이 적절한 필드 이론이 되려면 픽셀 분해능 $\Delta x$ x $\Delta x$ {\ $displaystyle \Delta$ x $}$ 을(를) 항상 정제할 $\Delta x$ 수 있어야 하며, 반면 분해된 필드 s $s_{\Delta x}$ $s_{\Delta x}$ ${\$ 의 기대값은 유한 값으로 수렴해야 $s_{\Delta x}$ 한다.

\langle f(s)\langle _{(s)}\equiv \lim_\Delta x\rightarrow 0}\int ds_{\Delta x}\\\\\Delta x}, {\mathcal {P}(s_{\Delta x}).

경로 통합

이 제한이 있는 경우 필드 구성 공간 또는 경로 통합에 대해 말할 수 있다.

\langle f(s)\angle _{(s d)}\equiv \int {\mathcal {D}s\,f\\\mathcal {P}s}s.

분해능에 관계없이 그것은 숫자로 평가될 수 있다.null

가우스 선행

필드의 가장 단순한 이전은 0 평균 가우스 확률 분포의 이전이다.

{\mathcal{P}={\mathcal{G}}}}\equiv {\frac{1}{\pi S}}e^{-{1}:{\frac{1}{1}2}}\, s^{\dager }S^{-1}\s}.

분모의 결정이 제한치에 Δ)→ 0{\displaystyle \Delta x\rightarrow 0}그러나, 모두를 위해 중간 주파 변성기 일관성을 필요한 것은 이 결정Δ x을에 어떤 한정된 해상도 분야 대리를 위해 추정할 수 있다;0{\displaystyle \Delta x>0}과, 그 p. ill-defined 수 있ermits수렴 기대치 계산null

가우스 확률 분포는 계수가 포함된 $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ 필드 2점 상관 함수 $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ ( $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ s $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ ) ${\$ 의 사양을 요구한다.

S_{xy}\equiv \langle s(x)\,{\overline {s(y)}}\angle _{s}}}}

연속된 필드를 위한 스칼라 제품

a^{\dager }b\equiv \int _{\Oomega }dx\,{\overline {a(x)}}\,b(x),

with respect to which the inverse signal field covariance

S^{-1}

is constructed, i.e.

{\displaystyle (S^{-1}S)_{xy}\equiv \int _{\Omega }dz\,(S^{-1})_{xz}S_{zy}=\mathbb {1} _{xy}\equiv \delta (x-y).

}

해밀턴이 읽은 해당 사전 정보

{\mathcal{H}=-\ln {\mathcal{G}}={\frac {1}{1}:{2}}\, s^{\dager }}S^{-1}\,s+{\frac{1}{1}:{2}}\,\ln 2\PI S.}}

측정 방정식

측정 데이터 $d$ $d$ 은(는) 우도 ${\mathcal {P}}(d|s)$ ( ${\mathcal {P}}(d|s)$ ${\mathcal {P}}(d|s)$ ) ${\mathcal {p}(d)}$ 을(를) 사용하여 생성되었다 $d$ ${\mathcal {P}}(d|s)$ 계측기가 선형인 경우 형식의 측정 방정식이

d=R\,s+n

여기서

R

R

은

R

신호에 평균적으로 데이터가 반응하는 방법을 설명하는 계측기 응답이고

n

{\

displaystyle

n}은

n

(는) 노이즈일 수 있으며, 단순히

데이터

d

{\

displaystyle d}

과

d

(와) 선형 신호

R\,s

R

R\,s

{\

displaystyle R\,s}

의 차이일 뿐이며

R\,s

resPO에 유의해야 한다.nse는 무한 치수 신호 벡터를 유한 치수 데이터 공간으로 변환한다.구성 요소에서

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

=

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

x

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

+

d_{i}=\int _{\Omega }dx\,R_{ix}\,s_{x}+n_{i},

d_{i}=\int_{\\\Oomega }dx\,R_{ix}\,s_{x}+n_{i}}}}}},

여기서 신호와 데이터 벡터에 벡터 성분 표기법이 도입되었다.null

노이즈가 $공분산$ N{\ $displaystyle$ N $N$ ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ s ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ ) = ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ ${\displaystyle {\mathcal{P}(n)={\mathcal{G}(n,N)$ 을 포함한 신호에 독립적인 가우스 통계량을 따르는 경우, 가능성도 ${\mathcal {P}}(n|s)={\mathcal {G}}(n,N),$ 가우스일 수 있다.

{\mathcal {P}(d s)={\mathcal {G}(d-R\,s,N),

그리고 해밀턴의 가능성 정보는

{\mathcal {H}}(d s)=-\ln {\mathcal {G}}(d-R\,s,N)={\frac {1}{2}}\,(d-R\,s)^{\dagger }N^{-1}\,(d-R\,s)+{\frac {1}{2}}\,\ln  2\pi N .

가우스 신호와 신호 독립 노이즈에 따라 가우스 신호의 선형 측정은 자유 IFT로 이어진다.null

자유 이론

프리 해밀턴어

위에서 설명한 가우스 시나리오의 공동 정보 해밀턴은 다음과 같다.

{\begin{aigned}{\mathcal {H}(d,s)&={\mathcal {H}+{\mathcal {H}s)\\&{\widehat {=}}{\frac {1}{2}}\,(d-R\,s)^{\dagger }N^{-1}\,(d-R\,s)+{\frac {1}{2}}\,s^{\dagger }S^{-1}\,s\\&{\widehat {=}}{\frac {1}{2}}\,\left[s^{\dagger }\underbrace {(S^{-1}+R^{\dagger }N^{-1}R)} _{D^{-1}}\,s-s^{\dagger }\underbrace {R^{\dagger }N^{-1}d} _{j}-\underbrace {d^{\dagger }N^{-1}R} _{j^{\dagger }}\,s\right]\\&\equiv {\frac {1}{2}}\,\왼쪽[s^{\dager }D^{-1s-s^{\dager }j-j^{}\dager }s\오른쪽]\\&={\frac {1}{2}}\,\left[s^{\dagger }D^{-1}s-s^{\dagger }D^{-1}\underbrace {D\,j} _{m}-\underbrace {j^{\dagger }D} _{m^{\dagger }}\,D^{-1}s\right]\\&{\widehat{=}{\frac {1}{1}:{2}}\,(s-m)^{{\dager{{-1}(s-m),\end{aigned}}}}}}

여기서 =

{\widehat {=}}

{\

은(는) 관련 없는 상수까지의 평등을 의미하며

{\widehat {=}}

, 이 경우

s

s

에 독립적인 표현을 의미한다

s

여기서부터 후방은 평균 m

{\displaystym

m

}

과 분산

m

D

{\displaystystyd}

을 가진 가우스여야 한다

D

{\mathcal {P}}(s d)\propto e^{-{\mathcal {H}}(d,s)}\propto e^{-{\frac {1}{2}}\,(s-m)^{\dagger }D^{-1}(s-m)}\propto {\mathcal {G}}(s-m,D)

where equality between the right and left hand sides holds as both distributions are normalized,

\int {\mathcal {D}}s\,{\mathcal {P}}(s d)=1=\int {\mathcal {D}}s\,{\mathcal {G}}(s-m,D)

.

일반화 위너 필터

후방 평균

m=D\,j=(S^{-1}+R^{}\N^{-1}R)^{-1}R^{-1}R^{-1}{{{N^}d

일반화된 Wiener 필터 솔루션 및 불확도 공분산이라고도 함

D=(S^{-1}+R^{\dager{}N^{-1}R)^{-1}:{-1

위너차원으로서null

IFT에서는 $j=R^{\dagger }N^{-1}d$ = $j=R^{\dagger }N^{-1}d$ $j=R^{\dagger }N^{-1}d$ $j=R^{\dagger }N^{-1}d$ - $j=R^{\dagger }N^{-1}d$ d $j=R^{}}\n^{{{{{{{{{{{{{{{{{}d}}$ 가 필드(지식)를 흥분시키는 소스 용어로 작용하므로 정보 전달자로 불리고 $j=R^{\dagger }N^{-1}d$ , $D$ ${\displaystystyle D}$ 는 $D$ 정보 전달자로 불린다.

m_{x}=\int _{\Oomega}dy\,D_{xy}j_{y}.

상호작용 이론

인터랙티브 해밀턴어

자유이론을 유도하는 가정 중 하나라도 위반되면 IFT는 상호 작용 이론으로, 신호장에서는 2차 순서보다 높은 용어를 사용한다.신호나 노이즈가 가우스 통계치를 따르지 않을 때, 반응이 비선형일 때, 노이즈가 신호에 따라 달라지거나, 반응이나 공분류가 불확실할 때 발생한다.null

이 경우 해밀턴의 정보는 테일러-프레셰트 시리즈로 확장될 수 있다.

{\mathcal {H}}(d,\,s)=\underbrace {{\frac {1}{2}}s^{\dagger }D^{-1}s-j^{\dagger }s+{\mathcal {H}}_{0}} _{={\mathcal {H}}_{\text{free}}(d,\,s)}+\underbrace {\sum _{n=3}^{\infty }{\frac {1}{n!}}}\람바 _{x_{1}...x_{n}^{{n}}s_{x_{1}:{1}...s_{x_{n}} _{={\mathcal{H}_{\text{int}}(d,\,s)}

where

{\mathcal {H}}_{\text{free}}(d,\,s)

is the free Hamiltonian, which alone would lead to a Gaussian posterior, and

{\mathcal {H}}_{\text{int}}(d,\,s)

is the interacting Hamiltonian, which encodes non-Gaussian corrections.첫 번째와 두 번째 순서의 테일러 계수는 각각 (음수) 정보 소스

-j

{\displaystyle -j})

와

-j

정보 전파자

D

D

로 식별되는 경우가 많다

D

높은 계수

\Lambda _{x_{1}...x_{n}}^{(n)}

x

\Lambda _{x_{1}...x_{n}}^{(n)}

.

\Lambda _{x_{1}...x_{n}}^{(n)}

.

\Lambda _{x_{1}...x_{n}}^{(n)}

. .

\Lambda _{x_{1}...x_{n}}^{(n)}

n

\Lambda _{x_{1}...x_{n}}^{(n)}

(

\Lambda _{x_{1}...x_{n}}^{(n)}

)

{\

x_{n}}^{(n)}}}

은

\Lambda _{x_{1}...x_{n}}^{(n)}

(는) 비선형 자기공명성과 연관되어 있다.null

고전장

클래식 필드 $s_{\text{cl}}$ $s_{\text{cl}}$ ${\$ 은(는) Hamiltonian 정보를 최소화하며 $s_{\text{cl}}$ ,

왼쪽.{\frac {\partial {H}(d,s)}{\partial s}}{\partial s}\오른쪽 _{s=s_{\text}}=0,}

따라서 후방을 최대화한다.

왼쪽.{\frac {\partial {\partial}{P}}{\partial s}\오른쪽 _{s=s_{\text{cl}}=\왼쪽.{\frac {\partial s}}{\partial s}\,{\frac {e^{-{\mathcal {H}(d,s)}{\mathcal {Z}}}}}}}\오른쪽 _{s=s_{\textcl}=-{\mathcal {P}s}\undebrace {왼쪽.{\frac {\partial {H}(d,s)}{\partial s}}{\partial s}\오른쪽 _{s=s_{\text{cl}}}} _{=0}

따라서 고전적 필드 s

{\

은 필드 추론 문제의 최대 후행 추정기이다

s_{\text{cl}}

.null

임계 필터

Wiener 필터 문제는 필드의 2점 $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ 상관 관계 $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ † s $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ ( $S\equiv \langle s\,s^{\dagger }\rangle _{(s)}$ ) ${\$ S $\equiv \langle s\,s^{\dager }\rangele _{s}}}$ 를 알려야 한다.알 수 없다면 필드 자체와 함께 유추해야 한다.This requires the specification of a hyperprior ${\mathcal {P}}(S)$ . Often, statistical homogeneity (translation invariance) can be assumed, implying that $S$ is diagonal in Fourier space (for $\Omega =\mathbb {R} ^{u}$ being a $u$ 차원 데카르트 공간).이 경우 푸리에 우주 전력 스펙트럼 $P_{s}({\vec {k}})$ s $P_{s}({\vec {k}})$ → $P_{s}({\vec {k}})$ ) ${\displaystyle P_{s}({\vec{k}})$ 만 추론하면 된다 $P_{s}({\vec {k}})$ .통계적 동위원소로피에 대한 추가적인 가정을 할 때, 이 $k=|{\vec {k}}|$ 은 푸리에 ${\vec {k}}$ k ${\vec {k}}$ → ${\$ $displaystyle$ k={\ $vec{k}}$ 의 $k=|{\vec {k}}|$ 길이 $k=|{\vec {k}}|$ = k $k=|{\vec {k}}|$ → {\ $displaystyle$ k= ${\$ $bec{k}}} }$ 에만 ${\vec {k}}$ 의존하며 1차원 $P_{s}(k)$ P $k ){\displaysty}(k)$ 만 결정하면 된다 $P_{s}(k)$ .The prior field covariance reads then in Fourier space coordinates $S_{{\vec {k}}{\vec {q}}}=(2\pi )^{u}\delta ({\vec {k}}-{\vec {q}})\,P_{s}(k)$ .

$P_{s}(k)$ ( $P_{s}(k)$ ) $P_{s}(k)$ 에 대한 이전 값이 평탄할 $P_{s}(k)$ 경우 데이터와 스펙트럼의 결합 확률은 다음과 같다.

{\displaystyle{\begin{정렬}{{P\mathcal}}(d,P_{s})&, =\int{{D\mathcal}}s\,{{P\mathcal}}(d,s,P_{s})\\&, =\int{{D\mathcal}}s\,{{P\mathcal}}(ds,P_{s})\,{{P\mathcal}}(sP_{s})\,{{P\mathcal}}(P_{s})\\&,\propto \int{{D\mathcal}}s\,{{G\mathcal}}(d-Rs,N)\,{{G\mathcal}}(s,S)\\&, \propto{\frac{1}{S^{\frac{1}{2}}}}\int{\mathcal.{D}}s\,\exp \left[-{-{\frac{1}:{2}}\왼쪽(s^{\dager }D^{-1}s-j^{\dager }s-s^{}s-s^{}dager }j\오른쪽)\\\\\&\propto {\fracto {\fract {1}{1}:{2}}:}{S ^{\frac {1}:{2}}:\exp \왼쪽[{\frac {1}{1}{2}}j^{}}}}{{{}}}}}}dager }D\j\right]\end{aigned}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}"

where the notation of the information propagator

D=(S^{-1}+R^{\dagger }N^{-1}R)^{-1}

and source

j=R^{\dagger }N^{-1}d

of the Wiener filter problem was used again.해밀턴은 이에 상응하는 정보를 가지고 있다.

{\mathcal {H}}(d,P_{s})\;{\widehat {=}}\;{\frac {1}{2}}\left[\ln  S\,D^{-1} -j^{\dagger }D\,j\right]={\frac {1}{2}}\mathrm {Tr} \left[\ln \left(S\,D^{-1}\right)-j\,j^{\dagger }D\right],

여기서 =

{\widehat {=}}

{\

은(여기서:

P_{s}

s

{\

에 대해 상수)까지의 동일성을 나타낸다

{\widehat {=}}

.

P_{s}

P

P_{s}

{\

에 대해 이 값을 최소화하면 최대 후미 전력 스펙트럼 추정기를 얻을 수 있다.

{\begin{aligned}{\frac {\partial {\mathcal {H}}(d,P_{s})}{\partial P_{s}(k)}}&={\frac {1}{2}}\mathrm {Tr} \left[D\,S^{-1}\,{\frac {\partial \left(S\,D^{-1}\right)}{\partial P_{s}(k)}}-j\,j^{\dagger }{\frac {\partial D}{\partial P_{s}(k)}}\right]\\&={\frac {1}{2}}\mathrm {Tr} \left[D\,S^{-1}\,{\frac {\partial \left(1+S\,R^{\dagger }N^{-1}R\right)}{\partial P_{s}(k)}}+j\,j^{\dagger }D\,{\frac {\partial D^{-1}}{\partial P_{s}(k)}}\,D\right]\\&={\frac {1}{2}}\mathrm {Tr} \left[D\,S^{-1}\,{\frac {\partial S}{\partial P_{s}(k)}}R^{\dagger }N^{-1}R+m\,m^{\dagger }\,{\frac {\partial S^{-1}}{\partial P_{s}(k)}}\right]\\&={\frac {1}{2}}\mathrm {Tr} \left[\left(R^{\dagger }N^{-1}R\,D\,S^{-1}-S^{-1}m\,m^{\dagger }\,S^{-1}\right)\,{\frac {\partial S}{\partial P_{s}(k)}}\right]\\&={\frac {1}{1}:{2}}\int \left\frac\frac {dq}{2\pi }\오른쪽)^{u}\int \left\frac {dq'}{2\pi }}\오른쪽)^{u}\left(\left(D^{-1}-S^{-1}\right)\,D\,S^{-1}-S^{-1}m\,m^{\dagger }\,S^{-1}\right)_{{\vec {q}}{\vec {q}}'}\,{\frac {\partial (2\pi )^{u}\delta ({\vec {q}}-{\vec {q}}')\,P_{s}(q)}{\partial P_{s}(k)}}\\&={\frac {1}{2}}\int \left({\frac {dq}{2\pi }}\right)^ᆭ\left(S^{-1}-S^{-1}D\,S^{-1}-S^{-1}m\,m^{\dagger}\,S^{-1}\right)_{{\vec{q}}{\vec{q}}}\,\delta(k-q)\\&, ={\frac{1}{2}}\mathrm{Tr}\left\ᆳ\left[S-\left(D+m\,m^{\dagger}\right)\right]\,S^{)}\mathbb{P}_{k}\right\}\\&, ={\frac{\mathrm{Tr}\left[\mathbb{P}_{k}\right]}{2\,P_{s}(k)}}-{\frac{\mathrm{Tr}\left[\left(D+m\,m^{\dag.ger}\right)\,\\mathb {P} _{k}\오른쪽]{2\,\왼쪽[P_{s}(k)\오른쪽]^{2}}=0,\end{aigned}}}}}

where the Wiener filter mean

m=D\,j

and the spectral band projector

{\displaystyle (\mathbb {P} _{k})_{{\vec {q}}{\vec {q}}'}\equiv (2\pi )^{u}\delta ({\vec {q}}-{\vec {q}}')\,\delta ( {\vec {

q} -k)}

이(가) 도입되었다

(\mathbb {P} _{k})_{{\vec {q}}{\vec {q}}'}\equiv (2\pi )^{u}\delta ({\vec {q}}-{\vec {q}}')\,\delta (|{\vec {q}}|-k)

.The latter commutes with

S^{-1}

, since

(S^{-1})_{{\vec {k}}{\vec {q}}}=(2\pi )^{u}\delta ({\vec {k}}-{\vec {q}})\,[P_{s}(k)]^{-1}

is diagonal in Fourier space.따라서 전력 스펙트럼에 대한 최대 후방 추정기는 다음과 같다.

P_{s}={\frac {\mathrm {Tr} \left[\reft[m\,m^{}+D\rigger }\right]\\mathb {P}{k}\mathrm {Tr} \reft]}.

It has to be calculated iteratively, as

m=D\,j

and

D=(S^{-1}+R^{\dagger }N^{-1}R)^{-1}

depend both on

P_{s}

themselves.경험적 베이지스 접근방식에서 추정 P

P_{s}

{\

은(는) 주어진 대로 취해질

P_{s}

것이다.따라서 신호장에 대한 후방 평균 추정치는 해당 m

m

이고

m

그 불확실성은 경험적 베이즈 근사치의 해당

D

D

D

이다.null

그 결과로 발생하는 비선형 필터를 임계 필터라고 한다.^[4]전력 스펙트럼 추정 공식의 일반화는 다음과 같다.

P_{s}={\frac {\mathrm {Tr} \left[\m\,m^{}+\delta \,d\right]\\\mathb {P} _{k}\mathrm {Tr} \left[{k}\rig}\rig]}

\delta <1

<

\delta <1

\delta <1

에 대한 인식 임계값을 나타내며

\delta <1

이는 푸리에 밴드의 데이터 분산이 이 밴드에 대해 신호

재구성

m

m

이

m

(가) 0이 되기 전에 특정 임계값만큼 예상 소음 수준을 초과해야 함을 의미한다.데이터 분산이 이 임계값을 약간 초과할 때마다 신호 재구성은 열역학 시스템의 1차 위상 전환과 유사한 유한 흥분 수준으로 점프한다.신호에 대한

\delta =1

= 1 {\

displaystyle \delta =1}

지각의

\delta =1

필터는 데이터 분산이 노이즈 수준을 초과하는 즉시 연속적으로 시작한다.Δ

\delta =1

=

\delta =1

\delta =1

에서 불연속적 지각의 소멸은 임계점을 통과하는 열역학 시스템과 유사하다

\delta =1

.따라서 critical filter라는 이름이 붙는다.null

임계 필터, 비선형 측정에 대한 확장 및 비평평판 스펙트럼 사전 포함은 신호 공분산을 대개 알 수 없는 ai에 대해 실제 신호 추론 문제에 IFT를 적용할 수 있도록 허용했다.null

IFT 적용 예

은하단 아벨 2219에 있는 전파 은하계의 무선 간섭 이미지.영상은 데이터 백프로젝션(상단), CLEAN 알고리즘(중간), REVEL 알고리즘(하단)에 의해 생성되었다.음이므로 물리적 플럭스는 흰색으로 표시하지 않는다.

무료 IFT에서 나타나는 일반화된 Wiener 필터는 신호 처리에서 광범위하게 사용된다.IFT에 기반한 알고리즘은 많은 애플리케이션에 대해 도출되었다.이들 중 상당수는 수치정보장론(NIFTy) 라이브러리를 이용해 구현된다.null

D³PO는 Photon 관찰 디노이즈, 디콘볼루션 및 디컴파싱에 대한 코드다.카운트의 포아송 통계량과 계측기 응답 함수를 고려하여 개별 광자 카운트 이벤트에서 영상을 재구성한다.그것은 하늘 배출을 분산 방출의 이미지와 점 선원의 이미지로 분할하여 두 성분의 분리에 대한 상이한 상관 구조와 통계를 이용한다.DHPO는 페르미와 RXTE 위성의 데이터에 적용되었다.
REVEL은 전파 천문학에서 조리개 합성 영상을 위한 베이시안 알고리즘이다.REVEL은 D³PO와 유사하지만 가우스 우도 및 푸리에 공간 응답 함수를 가정한다.그것은 매우 큰 어레이의 데이터에 적용되었다.
PySEA는 점 구름과 지리공간 데이터의 공간적 명시적 스펙트럼 분석을 위한 Python 프레임워크다.

고급 이론

파인만 다이어그램, 유효 작용, 필드 운영자 형식주의와 같은 IFT 문제를 다루기 위해 양자장 이론의 많은 기법을 사용할 수 있다.null

파인만 도표

필드의 후측 평균 추정에 기여하는 첫 번째 파인만 도표 3개.선은 정보 전파자, 정보원에 대한 선 끝의 점, 상호작용 용어의 정점을 나타낸다.첫 번째 다이어그램은 Wiener 필터를, 두 번째 다이어그램은 비선형 보정, 세 번째 다이어그램은 Wiener 필터에 대한 불확실성 보정을 인코딩한다.

정보 Hamiltonian의 Taylor-Fréchet 확장 시 $\Lambda ^{(n)}$ 상호작용 계수 $\Lambda ^{(n)}$ ( $\Lambda ^{(n)}$ $\Lambda ^{(n)}$ ${\$ 인 경우

{\mathcal {H}}(d,\,s)=\underbrace {{\frac {1}{2}}s^{\dagger }D^{-1}s-j^{\dagger }s+{\mathcal {H}}_{0}} _{={\mathcal {H}}_{\text{free}}(d,\,s)}+\underbrace {\sum _{n=3}^{\infty }{\frac {1}{n!}}}\람바 _{x_{1}...x_{n}^{{n}}s_{x_{1}:{1}...s_{x_{n}} _{={\mathcal{H}_{\text{int}}(d,\,s)}

작은 로그 파티션 함수 또는 Helmholtz 자유 에너지,

\ln {\mathcal {Z}(d)=\ln \int {\mathcal {D}s\,e^{-{-{\mathcal {H}(d,s)}=\sum _{c\in C}c

이러한 계수의 측면에서 무증상적으로 확장될 수 있다.자유 해밀턴은 확장을 통합하는

{\mathcal {G}}(s-m,D)

가우스

{\mathcal {G}}(s-m,D)

G

(

-

{\mathcal {G}}(s-m,D)

,

m=D\,j

{\mathcal {G}}(s-m,D)

{\mathcal {G}}(s-m,D)

의

{\mathcal {G}}(s-m,D)

평균

m=D\,j

=

m=D\,j

j

D

및 분산

m=D\,j

D

D

{\

displaystyle

D

}

을(를)

지정한다.

이는 모든 연결된 파인만 다이어그램의 설정된

C

C

{\displaystyle

C

}

에 대한 합으로 이어진다.Helmholtz 자유 에너지로부터, 필드의 연결된 모멘트는 다음을 통해 계산될 수 있다.

\langles s_{x_{1}}\ldots s_{x_{n}}}^{\c}}={\frac {\partial ^{n}\ln {\mathcal {Z}{\partial j_{x_{1}}}}\ldots \partial j_{n}}}}}}.

그러한 다이어그램적 확장이 수렴하는 데 필요한 작은 팽창 매개변수가 존재하는 상황은 거의 가우스 신호장에 의해 주어지는데, 필드 통계의 비 가우스성이 작은 상호작용 계수

\Lambda ^{(n)}

\Lambda ^{(n)}

\Lambda ^{(n)}

{\

style

\Lambda ^{n}}}}}

를 초래한다

\Lambda ^{(n)}

예를 들어, 우주 마이크로파의 통계는 다음과 같다.배경은 거의 가우스인데, 초기 우주의 인플레이션 시대 동안 소량의 비 가우스파가 씨앗을 뿌린 것으로 여겨지고 있다.null

유효 작용

IFT 문제에 대한 안정적인 숫자를 갖기 위해서는 최소화할 경우 후방 평균 필드를 제공하는 필드 기능이 필요하다.그러한 것은 밭의 효과적인 작용이나 깁스 자유 에너지에 의해 주어진다.Gibbs 자유 에너지 $G$ $G$ 은(는) 레전드르 변환을 통해 헬름홀츠 자유 에너지로부터 생성될 $G$ 수 있다.IFT에서는 내부정보에너지의 차이에 의해 주어진다.

U=\langle {\mathcal {H}(d,s)\angle _{\mathcal {P}'(s d')}}

그리고 섀넌 엔트로피

{\mathcal {S}=-\int {\mathcal {D}s\,{\mathcal {P}(s d')\,\ln {\mathcal {P}(s d')

for temperature

T=1

, where a Gaussian posterior approximation

{\mathcal {P}}'(s d')={\mathcal {G}}(s-m,D)

is used with the approximate data

d'=(m,D)

containing the mean and the dispersion of the field.^[5]

깁스 자유 에너지는 그때다.

{\displaystyle{\begin{정렬}(m,D)&, =U(m,D)-T\,{{S\mathcal}}(m,D)\\&, =\langle{{H\mathcal}}(d,s)+\ln{{P\mathcal}}'(sd')\rangle _{{{P\mathcal}}'(sd')}\\&, =\int{{D\mathcal}}s\,{{P\mathcal}}'(sd')\,\ln{\frac{{{P\mathcal}}'(sd')}{{{P\mathcal}}(d,s)}}\\&, =\int{{D\mathcal}}s\,{{P\mathcal}}'(sd')\,\ln{\frac{{{\mathcal.P}}'(sd')}{{\mathcal {P}}(s d)\,{\mathcal {P}}(d)}}\\&=\int {\mathcal {D}}s\,{\mathcal {P}}'(s d')\,\ln {\frac {{\mathcal {P}}'(s d')}{{\mathcal {P}}(s d)}}-\ln \,{\mathcal {P}}(d)\\&={\text}{KL}({\mathcal {P}')({\mathcal {p}')({\mathcal {P}(s d))-\ln {\mathcal {Z}(d),\end{aigned}}}}}}}

Kullback-Leibler 발산

{\text{KL}}({\mathcal {P}}',{\mathcal {P}})

{\text{KL}}({\mathcal {P}}',{\mathcal {P}})

, P

){\displaystyle{\text{{KL}({\mathcal{

P}),{\

mathcal{

P}}}} 근사 및 정확한 후측과 헬름홀츠 자유 에너지

{\text{KL}}({\mathcal {P}}',{\mathcal {P}})

사이의 차이

.

후자는 대략적인

d'=(m,D)

d'=(m,D)

=

d'=(m,D)

(

d'=(m,D)

,

d'=(m,D)

)

{\displaystyle

d

'=(m,D)}

에 의존하지 않기 때문에, Gibbs 자유 에너지를 최소화하는 것은 대략적인 에너지와 정확한 후방 사이의 Kullback-Leibler 차이를 최소화하는 것과 동등하다

d'=(m,D)

따라서 IFT의 효과적인 작용 접근방식은 다양한 베이지안 방법과 동일하며, 이는 대략적인 포스터와 정확한 포스터리더 사이의 Kullback-Leibler 차이를 최소화하기도 한다.null

Gibbs 자유 에너지를 최소화하는 것은 후방 평균 장을 근사적으로 제공한다.

\langle s\angle _{(s d)}=\int {\mathcal {D}s\,s\,{\mathcal {P}s d),

해밀턴의 정보를 최소화하는 것이 최대 후두 영역을 제공하는 것과 대조적이다.후자는 오버핏 노이즈로 알려져 있으므로, 전자는 대개 더 나은 현장 추정기이다.null

연산자 형식주의

깁스 자유 에너지의 계산은 내부 정보 에너지가 정보 해밀턴을 통해 가우스 통합의 계산이 필요하다.

U(m,D)=\langle {\mathcal {H}(d,s)\angle _{{\mathcal {P}(s d')=\int {\mathcal {D}s\,{\mathcal {H}s}\\\\mathcal {G}.

그러한 통합은 현장 운영자의 형식주의를 통해 계산할 수 있다.^[6]

O_{m}=m+D\,{\frac {\mathrm {d}{\mathrm{d}m}

현장 운영자야이는 가우스 분포 함수에 적용되는 경우 적분 내에서

s

필드

식

s

{\

displaystyle s}

을(를) 생성하며,

{\reasoned}O_{m}\,{\mathcal {G}}(s-m,D)&=(m+D\,{\frac {\mathrm {d} }{\mathrm {d} m}})\,{\frac {1}{ 2\pi D ^{\frac {1}{2}}}}\,\exp \left[-{\frac {1}{2}}(s-m)^{\dagger }D^{-1}(s-m)\right]\\&=(m+D\,D^{-1}(s-m))\,{\frac {1}{ 2\pi D ^{\frac {1}{2}}}}\,\exp \left[-{\frac {1}{2}}(s-m)^{\dagger }D^{-1}(s-m)\right]\\&=s\,{\mathcal{G}(s-m,D),\end{aigned}}

여러 번 적용하면 더 높은 힘을 얻을 수 있고

{\begin{aigned}(O_{m})^{n}\,{\mathcal {G}(s-m,D)&=s^{n}\\\mathcal {G}.\end{정렬}}

Hamiltonian 정보가 분석적인 경우, 모든 조건은 현장 운영자를 통해 생성될 수 있다.

{\mathcal {H}(d,O_{m})\,{\mathcal {G}(s-m,D)={\mathcal {H}(d,s)\,{\mathcal {G}(s-m,D)\, {\mathcal}.

현장 운영자는

필드

s

s

자체에

s

의존하지 않기 때문에 내부 정보 에너지 구축에 통합된 경로에서 끌어낼 수 있다.

U(m,D)=\int {\mathcal {D}}s\,{\mathcal {H}}(d,O_{m})\,{\mathcal {G}}(s-m,D)={\mathcal {H}}(d,O_{m})\int {\mathcal {D}}s\,{\mathcal {G}}(s-m,D)={\mathcal {H}}(d,O_{m})\,1_{m},

여기서

1_{m}=1

1_{m}=1

=

1_{m}=1

{\displaystyle 1_{m}=1

}은

(

는) 입력

m

m

의 값에 관계없이

1

항상

값

1

1

을(를) 반환하는 기능으로 간주해야 한다

1_{m}=1

m

The resulting expression can be calculated by commuting the mean field annihilator

D\,{\frac {\mathrm {d} }{\mathrm {d} m}}

to the right of the expression, where they vanish since

{\frac {\mathrm {d} }{\mathrm {d} m}}\,1_{m}=0

.평균 필드 전멸기 D

D\,{\frac {\mathrm {d} }{\mathrm {d} m}}

D\,{\frac {\mathrm {d} }{\mathrm {d} m}}

d

D\,{\frac {\mathrm {d} }{\mathrm {d} m}}

{\

{d

}{\mathrm {d}m}}

은

D\,{\frac {\mathrm {d} }{\mathrm {d} m}}

(는) 평균 필드와 통신하며,

\left[D\,{\frac {\mathrm {d}{\mathrm {d}m},m\right]=D\,{\frac {\mathrm {d} }{\mathrm {d} m}}\,m-m\,D\,{\frac {\mathrm {d} }{\mathrm {d} m}}=D+m\,D\,{\frac {\mathrm {d} }{\mathrm {d} m}}-m\,D\,{\frac {\mathrm {d} }{\mathrm {d} m}}=D.

필드 오퍼레이터 공식주의의 사용으로 Gibbs 자유 에너지를 계산할 수 있으며, 이는 수치적으로 강력한 기능적 최소화를 통해 후방 평균장 추론을 허용한다.null

역사

노버트 비너(Norbert Wiener^[7])의 책은 현장 추론에 관한 최초의 작품 중 하나로 여겨질 수 있다.현장 추론을 위한 경로 통합의 사용은 Edmund Bertschinger^[8] 또는 William Bialek와 A. Zee와 같은 다수의 저자들에 의해 제안되었다.^[9]필드 이론과 베이지안 추론의 연결고리는 요르그 렘에 의해 명백하게 만들어졌다.^[10]정보 분야 이론이라는 용어는 토르스텐 엔슐린에 의해 만들어졌다.^[11]IFT의 기록에 대한 자세한 내용은 후자의 참조를 참조하십시오.null

참고 항목

참조

^ Enßlin, Torsten (2013). "Information field theory". AIP Conference Proceedings. 1553 (1): 184–191. arXiv:1301.2556. Bibcode:2013AIPC.1553..184E. doi:10.1063/1.4819999.
^ Enßlin, Torsten A. (2019). "Information theory for fields". Annalen der Physik. 531 (3): 1800127. arXiv:1804.03350. Bibcode:2019AnP...53100127E. doi:10.1002/andp.201800127.
^ "Information field theory". Max Planck Society. Retrieved 13 Nov 2014.
^ Enßlin, Torsten A.; Frommert, Mona (2011-05-19). "Reconstruction of signals with unknown spectra in information field theory with parameter uncertainty". Physical Review D. 83 (10): 105014. arXiv:1002.2928. Bibcode:2011PhRvD..83j5014E. doi:10.1103/PhysRevD.83.105014.
^ Enßlin, Torsten A. (2010). "Inference with minimal Gibbs free energy in information field theory". Physical Review E. 82 (5): 051112. arXiv:1004.2868. Bibcode:2010PhRvE..82e1112E. doi:10.1103/physreve.82.051112. PMID 21230442.
^ Leike, Reimar H.; Enßlin, Torsten A. (2016-11-16). "Operator calculus for information field theory". Physical Review E. 94 (5): 053306. arXiv:1605.00660. Bibcode:2016PhRvE..94e3306L. doi:10.1103/PhysRevE.94.053306. PMID 27967173.
^ (1894-1964), Wiener, Norbert (1964). Extrapolation, interpolation, and smoothing of stationary time series with engineering applications (Fifth printing ed.). Cambridge, Mass.: Technology Press of the Massachusetts Institute of Technology. ISBN 0262730057. OCLC 489911338.{{cite book}}: CS1 maint: 숫자 이름: 작성자 목록(링크)
^ Bertschinger, Edmund (December 1987). "Path integral methods for primordial density perturbations - Sampling of constrained Gaussian random fields". The Astrophysical Journal. 323: L103–L106. Bibcode:1987ApJ...323L.103B. doi:10.1086/185066. ISSN 0004-637X.
^ Bialek, William; Zee, A. (1988-09-26). "Understanding the Efficiency of Human Perception". Physical Review Letters. 61 (13): 1512–1515. Bibcode:1988PhRvL..61.1512B. doi:10.1103/PhysRevLett.61.1512. PMID 10038817.
^ C., Lemm, Jörg (2003). Bayesian field theory. Baltimore, Md.: Johns Hopkins University Press. ISBN 9780801872204. OCLC 52762436.
^ Enßlin, Torsten A.; Frommert, Mona; Kitaura, Francisco S. (2009-11-09). "Information field theory for cosmological perturbation reconstruction and nonlinear signal analysis". Physical Review D. 80 (10): 105005. arXiv:0806.3474. Bibcode:2009PhRvD..80j5005E. doi:10.1103/PhysRevD.80.105005.

[1] Enßlin, Torsten (2013). "Information field theory". AIP Conference Proceedings. 1553 (1): 184–191. arXiv:1301.2556. Bibcode:2013AIPC.1553..184E. doi:10.1063/1.4819999.

[2] Enßlin, Torsten A. (2019). "Information theory for fields". Annalen der Physik. 531 (3): 1800127. arXiv:1804.03350. Bibcode:2019AnP...53100127E. doi:10.1002/andp.201800127.

[3] "Information field theory". Max Planck Society. Retrieved 13 Nov 2014.

[4] Enßlin, Torsten A.; Frommert, Mona (2011-05-19). "Reconstruction of signals with unknown spectra in information field theory with parameter uncertainty". Physical Review D. 83 (10): 105014. arXiv:1002.2928. Bibcode:2011PhRvD..83j5014E. doi:10.1103/PhysRevD.83.105014.

[5] Enßlin, Torsten A. (2010). "Inference with minimal Gibbs free energy in information field theory". Physical Review E. 82 (5): 051112. arXiv:1004.2868. Bibcode:2010PhRvE..82e1112E. doi:10.1103/physreve.82.051112. PMID 21230442.

[6] Leike, Reimar H.; Enßlin, Torsten A. (2016-11-16). "Operator calculus for information field theory". Physical Review E. 94 (5): 053306. arXiv:1605.00660. Bibcode:2016PhRvE..94e3306L. doi:10.1103/PhysRevE.94.053306. PMID 27967173.

[7] (1894-1964), Wiener, Norbert (1964). Extrapolation, interpolation, and smoothing of stationary time series with engineering applications (Fifth printing ed.). Cambridge, Mass.: Technology Press of the Massachusetts Institute of Technology. ISBN 0262730057. OCLC 489911338.{{cite book}}: CS1 maint: 숫자 이름: 작성자 목록(링크)

[8] Bertschinger, Edmund (December 1987). "Path integral methods for primordial density perturbations - Sampling of constrained Gaussian random fields". The Astrophysical Journal. 323: L103–L106. Bibcode:1987ApJ...323L.103B. doi:10.1086/185066. ISSN 0004-637X.

[9] Bialek, William; Zee, A. (1988-09-26). "Understanding the Efficiency of Human Perception". Physical Review Letters. 61 (13): 1512–1515. Bibcode:1988PhRvL..61.1512B. doi:10.1103/PhysRevLett.61.1512. PMID 10038817.

[10] C., Lemm, Jörg (2003). Bayesian field theory. Baltimore, Md.: Johns Hopkins University Press. ISBN 9780801872204. OCLC 52762436.

[11] Enßlin, Torsten A.; Frommert, Mona; Kitaura, Francisco S. (2009-11-09). "Information field theory for cosmological perturbation reconstruction and nonlinear signal analysis". Physical Review D. 80 (10): 105005. arXiv:0806.3474. Bibcode:2009PhRvD..80j5005E. doi:10.1103/PhysRevD.80.105005.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

Search