위너 필터

신호 처리에서 Wiener 필터는 알려진 정지 신호 및 노이즈 스펙트럼과 첨가 노이즈를 가정하여 관측된 노이즈 프로세스의 선형 시간 변이성(LTI) 필터링에 의해 원하는 또는 목표 랜덤 프로세스의 추정치를 산출하는 데 사용되는 필터다. Wiener 필터는 추정된 랜덤 공정과 원하는 공정 사이의 평균 제곱 오차를 최소화한다.

설명

Wiener 필터의 목적은 출력으로 추정치를 생성하기 위해 관련 신호를 입력 및 필터링으로 사용하여 알 수 없는 신호의 통계적 추정치를 계산하는 것이다. 예를 들어, 알려진 신호는 첨가 노이즈에 의해 손상된 알 수 없는 관심 신호로 구성될 수 있다. Wiener 필터를 사용하여 손상된 신호에서 노이즈를 걸러내어 관심 있는 기본 신호의 추정치를 제공할 수 있다. Wiener 필터는 통계적 접근법에 기초하며 이론에 대한 더 많은 통계적 설명은 최소 평균 제곱 오차(MMSE) 추정기 기사에 제시되어 있다.

일반적인 결정론적 필터는 원하는 주파수 응답을 위해 설계된다. 그러나 Wiener 필터의 설계는 다른 접근방식을 취한다. 하나는 원래 신호와 노이즈의 스펙트럼 속성에 대한 지식을 가지고 있다고 가정하고, 출력이 가능한 한 원래 신호에 가깝게 오는 선형 시간 변화 필터를 찾는다. 위너 필터는 다음과 같은 특징이 있다.^[1]

1. 가정: 신호 및 (가법적) 노이즈는 알려진 스펙트럼 특성 또는 자기 상관 및 교차 상관 관계를 가진 정지 선형 확률적 프로세스다.
2. 요구 사항: 필터는 물리적으로 실현 가능/주의되어야 한다(이 요구 사항은 삭제되어 비주의 해결책이 될 수 있음)
3. 성능 기준: 최소 평균 제곱 오차(MMSE)

이 필터는 디콘볼루션 프로세스에서 자주 사용된다. 이 필터는 Wiener 디콘볼루션을 참조하십시오.

Wiener 필터 솔루션

$s{\displaystyle }$( ${\displaystyle t}$) ${\displaystyle s(t)}$을(를) 측정 신호 $x{\displaystyle }$( ${\displaystyle t}$) ${\displaystyle$ x$(t)}$에서 추정해야 하는 알 수 없는 신호로$$ 두십시오$.$ Wiener 필터 문제는 세 가지 가능한 경우에 대한 해결책이 있다: 비-폐지 필터가 허용될 수 있는 경우(과거 및 미래 데이터의 무한정 필요), 원인 필터가 필요한 경우(과거 데이터의 무한정 사용), 입력 데이터만 사용되는 유한 충동 응답(FIR) 사례(즉, 결과 또는 ou)이다.tput은 IIR 사례와 같이 필터에 다시 공급되지 않는다.) 첫 번째 사례는 해결이 간단하지만 실시간 애플리케이션에는 적합하지 않다. 비너의 주된 업적은 인과관계 요건이 유효한 사건을 해결하는 것이었다; 노먼 레빈슨씨는 비너 책의 부록에서 FIR 솔루션을 주었다.

비침해용액

${\displaystyle G(s)={\frac {S_{x,s}}{S_{x}}}{S_{x}}}}}e^{\alpha s}}}$

여기서 S ${\displaystyle S}$은 스펙트럼 밀도다. $g{\displaystyle }$( ${\displaystyle t}$) ${\displaystyle g(t)}$이(가) 최적이라면$$ 최소 평균 제곱 오차 방정식은 다음과 같이 감소한다.

${\displaystyle E(e^{2})=R_{s}(0)-\int _{-\int _{-\int }^{\\nft }g(\tau )R_{x,s}(\tau +\alpha )\,d\tau ,}$

그리고 $솔루션{\displaystyle }$ g${\displaystyle }$(${\displaystyle t}$ ) ${\displaystyle$ g$($${\displaystyle t}$$)}$은 G${\displaystyle }$( s${\displaystyle }$) ${\displaystyle G(s)}$의 역양면 Laplace 변환이다$.$

원인용액

${\displaystyle G(s)={\frac {H(s)}{S_{x}^{+}}}}},}$

어디에

• ${\displaystyle H(s)}$ consists of the causal part of ${\displaystyle {\frac {S_{x,s}(s)}{S_{x}^{-}(s)}}e^{\alpha s}}$ (that is, that part of this fraction having a positive time solution under the inverse Laplace transform)
• ${\displaystyle S_{x}^{+}(s)}$ is the causal component of ${\displaystyle S_{x}(s)}$ (i.e., the inverse Laplace transform of ${\displaystyle S_{x}^{+}(s)}$ is non-zero only for ${\displaystyle t\geq 0}$)
• ${\displaystyle S_{x}^{-}(s)}$ is the anti-causal component of ${\displaystyle S_{x}(s)}$ (i.e., the inverse Laplace transform of ${\displaystyle S_{x}^{-}(s)}$ is non-zero only for ${\displaystyle t<0}$)

이 일반적인 공식은 복잡하고 좀 더 자세한 설명을 들을 만하다. 솔루션 G${\displaystyle }$( ${\displaystyle s}$) ${\displaystyle G}$을(를) 특정 사례에$$ 기록하려면 다음 단계를 따라야 한다.^[2]

1. ${\displaystyle \mathrm{합리적}}$인 형태의$$ $S{\displaystyle {}_{}}$ ${\displaystyle x_{}}$ (${\displaystyle {}_{}}$s )${\displaystyle S_{x}($${\displaystyle s}$$)}$ 스펙트럼부터 시작하여 인과 및 반의심 구성 요소: ${\displaystyle S_{}}$ x${\displaystyle {}_{}}$(${\displaystyle }$s )${\displaystyle }$= ${\displaystyle {}_{}^{}}$ ${\displaystyle x_{}^{}}$+${\displaystyle {}_{}^{}}$( ${\displaystyle s}$) ${\displaystyle {}_{}^{}}$ ${\displaystyle x_{}^{}}$-${\displaystyle {}_{}^{}}$( ${\displaystyle s}$) ${\displaysty S_{x}s=$$S_{x}^{+}$$초$$S_$${\displaystyle {\{}^{}}$$x}^{-}^{-}(s)$ $여기$서 S + ${\$ S$^{+}$는 왼쪽 절반 평면(LHP)의 모든 0과 극을 포함하고$$ $S{\displaystyle {}^{}}$- ${\$는 오른쪽 절반 평면(RHP)의 0과 극을 포함하고$$ 있다. 이것을 '위너-'라고 부른다.홉프 인자화.
2. $S{\displaystyle {}_{}}$ ${\displaystyle x_{}}$, s (${\displaystyle }$) ${\displaystyle {}^{}}$ ${\displaystyle {\alpha }^{}}$ s ${\$^{\$alpha$ s$}}$을(를) ${\displaystyle S_{}^{}}$ x${\displaystyle {}_{}^{}}$-${\displaystyle {}_{}^{}}$( ${\displaystyle s)}${\$displaystyle S_{x}^{-}}}}}}$로 나누고 결과를$$ 부분적인 부분적인 확대로서 기록한다.
3. LHP에 폴이 있는 이 확장의 용어만 선택하십시오. 이 $용어들$을 H${\displaystyle }$( ${\displaystyle s}$) ${\displaystyle H(s)}$이라고 부른다$.$
4. $H{\displaystyle }$( ${\displaystyle s}$) ${\displaystyle H(s)}$을(를) $S{\displaystyle {}_{}^{}}$ ${\displaystyle x_{}^{}}$+ (${\displaystyle {}_{}^{}s)}$ ${\displaystyle S_{x}^{+}}(s)$로 나누십시오$.$ 결과는 원하는 필터 전송 함수 $G{\displaystyle }$( ${\displaystyle s}$) ${\displaystyle G}$입니다$.$

이산형 영상 시리즈에 대한 유한 임펄스 반응 Wiener 필터

인과 유한 임펄스 응답(FIR) Wiener 필터는 주어진 데이터 매트릭스 X와 출력 벡터 Y를 사용하는 대신 입력 및 출력 신호의 통계를 사용하여 최적의 탭 가중치를 찾는다. 입력 매트릭스 X를 입력 신호(T)의 자동 상관 추정치로 채우고 출력 벡터 Y를 출력 신호(V)의 교차 상관 추정치로 채운다.

Wiener 필터의 계수를 도출하려면, 순서(과거 탭 수) N의 Wiener 필터에 공급되는 신호 w[n]와 계수${\displaystyle }${ ${\displaystyle {0\mathrm{}}_{}\cdots ,}$ ${\displaystyle N_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle \{a_{0},\cdots ,a_{N}\}}}$을(를) 고려하십시오$.$ 필터의 출력은 식에 의해 주어지는 x[n]로 표시된다.

${\displaystyle x[n]=\sum _{i=0}^{N}a_{i}w[n-i].}$

잔류 오차는 e[n]로 표시되며 e[n] = x[n] - s[n]로 정의된다(해당 블록 다이어그램 참조). Wiener 필터는 다음과 같이 간결하게 표현할 수 있는 평균 제곱 오차(MMSE 기준)를 최소화하도록 설계되었다.

${\displaystyle a_{i}=\arg \min E\left[e^{2}[n]\right],}$

여기서 $E{\displaystyle }$ [${\displaystyle \cdot }$ ${\displaystyle ]}$ ${\displaystyle E[\cdot ]}$은 기대 연산자를 의미한다$$. 일반적인 경우 ${\displaystyle {계수}_{}}$ $a{\displaystyle {}_{}}$ ${\$는 복잡할 수 있으며$$ w[n]와 s[n]도 복잡한 경우에 대해 도출될 수 있다. 복잡한 신호로 해결할 매트릭스는 대칭적인 토플리츠 매트릭스가 아니라 에르미트 토플리츠 매트릭스다. 단순성을 위해, 이하에서는 이 모든 수량이 실재하는 경우만을 고려한다. 평균 제곱 오차(MSE)는 다음과 같이 다시 작성할 수 있다.

${\displaystyle {\reasoned}왼쪽[e^{2}[n]\오른쪽]&=E\왼쪽[(x[n]-s[n]])^{2}\오른쪽]\\&=E\left[x^{2}[n]\right]+E\left[s^{2}[n]\right]-2E[x[n]s[n]]\\&=E\왼쪽[\sum _{i=0}^{N}a_{{n}w[n-i]\right)^{2}\오른쪽]+E\left[s^{2}[n]\right]-2E\left[\sum _{i=0}^{N}a_{n}w[n-i]s[n]\right]\ended}}}}}}}}}}$

위의 식을 최소화하는$$ 벡터${\displaystyle }$[${\displaystyle {0\mathrm{}}_{}}$,${\displaystyle }$… ,${\displaystyle N_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle [a_{0}\,\ldots ,\,a_{N}}}$을(를) 찾으려면 각 ${\displaystyle i_{}}$ ${\$에 대한 파생값을 계산하십시오.

${\displaystyle {\begin{aligned}{\frac {\partial }{\partial a_{i}}}E\left[e^{2}[n]\right]&={\frac {\partial }{\partial a_{i}}}\left\{E\left[\left(\sum _{i=0}^{N}a_{i}w[n-i]\right)^{2}\right]+E\left[s^{2}[n]\right]-2E\left[\sum _{i=0}^{N}a_{i}w[n-i]s[n]\right]\right\}\\&=2E\left[\left(\sum _{j=0}^{N}a_{j}w[n-j]\right)w[n-i]\right]-2E[w[n-i]s[n]]\\&=2\left(\sum _{j=0}^{N}E[w[n-j]w[n-i]]a_{j}\right]-2E[w[n-i]s[n]]\end{igned}}}}}}}}}}$

w[n]와 s[n]가 각각 정지해 있고 공동으로 정지해 있다고 가정할 때 w[n]와 w[n] 사이의 자기 상관관계로$$ $알려진{\displaystyle {}_{}}$ R${\displaystyle {}_{}m}$] 와 R[${\displaystyle m_{}}$]의 순서 R ${\displaystyle w_{}}$$[$m ${\displaystyle ]}$ [\$displaystyle R_{ws}[m]]$는 다음과 같이 정의할 수 있다.

${\displaystyle {\reasoned}R_{w}[m]&=E\{w[n]w[n+m]\}\\R_{ws}[m]&=E\{w[n]s[n+m]\}}\end{정렬}}}$

따라서 MSE의 파생상품은 다음과 같이 다시 작성될 수 있다.

${\displaystyle {\frac {\partial }{\partial a_{i}}}E\left[e^{2}[n]\right]=2\left(\sum _{j=0}^{N}R_{w}[j-i]a_{j}\right)-2R_{ws}[i]\qquad i=0,\cdots ,N.}$

실제 $w{\displaystyle }$[${\displaystyle n}$ ${\displaystyle ]}$ ${\displaystyle w[n$의 경우 자기 상관은 대칭입니다.

파생상품이 0이 되도록 방치하면 다음과 같은 결과가 발생한다.

${\displaystyle \sum _{j=0}^{N}R_{w}[j-i]a_{j}=R_{ws}[i]\qquad i=0,\cdots,N.}$

행렬 형태로 다시 쓸 수 있는 것(위의 대칭 속성 사용)

${\displaystyle \underbrace {\begin{bmatrix}R_{w}[0]&R_{w}[1]&\cdots &R_{w}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}[N-1]\\\vdots &\vdots &\ddots &\vdots \\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[0]\end{bmatrix}} _{\mathbf {T} }\underbrace {\begin{bmatrix}a_{0}\\a_{1}\\\vdots \\a_{N}\end{bmatrix}} _{\mathbf {a} }=\underbrace {\begin{bmatrix}R_{ws}[0]\\R_{ws}[1]\\\vdots \\R_{ws}[N]\end{bmatrix}} _{\mathbf {v}}}}}}}$

이 방정식은 비너-로 알려져 있다.호프 방정식. 방정식에 나타나는 행렬 T는 대칭 토플리츠 행렬이다. $R{\displaystyle }$ ${\displaystyle R$에 대한 적절한 조건 하에서 이러한 행렬은 양의 명확한 것으로 알려져 있으며 따라서 비성별적으로 Wiener 필터 계수 벡터, $a{\displaystyle \mathbf{}}$= T${\displaystyle {}^{}}$- ${\displaystyle {}^{}\mathbf{}}$ ${\displaystyle {\mathrm{v}}^{}}$ ${\$의 결정에 고유한 솔루션을 산출한다. 게다가 유효성이 존재한다.그러한 Wiener를 해결하기 위한 nt 알고리즘Levinson-Durbin 알고리즘으로 알려진 Hopf 방정식 때문에 T의 명시적인 역전이 필요하지 않다.

일부 조항에서 교차 상관 함수는 반대 방향으로 정의된다.

그러면 $v{\displaystyle \mathbf{}}$ ${\${${\displaystyle \mathrm{v}}$$}$행렬이$$ R $s{\displaystyle {}_{}}$ ${\displaystyle w_{}}$[ 0 ${\displaystyle ]}$… R ${\displaystyle {}_{}}$ ${\displaystyle w_{}}$[ ${\displaystyle N}$ ${\displaystyle ]}$ $[\displaystyle R_{sw}[0][0$]\$ldots R_{$sw}[$N]]$를 포함하게 된다$.$ 이것은 표기법의 차이일 뿐이다.

${\displaystyle \mathrm{어떤}}$ 표기법을 사용하든 ${\displaystyle \mathrm{실제}}$ $w{\displaystyle }$[ n ${\displaystyle ]}$, s${\displaystyle }$[ ${\displaystyle n}$ ${\displaystyle ]}$ ${\displaystyle w[n],s[n]}$의 경우 $:$

최소 제곱 필터와의 관계

인과적인 Wiener 필터의 실현은 신호 처리 도메인을 제외하고 최소 제곱 추정치에 대한 해답과 많이 닮았다. 입력 행렬 $X{\displaystyle \mathbf{}}$ ${\$ 및$$ 출력 벡터 $y{\displaystyle \mathbf{}}$ ${\$에 대한 최소 제곱 솔루션은 다음과 같다$$.

${\displaystyle {\boldsymbol {\hat {\beta}}=(\mathbf {T}{\mathbf {T}}^{-1}\mathbf {X}^{\mathbf {T}{\boldsymbol {y}).}$

FIR Wiener 필터는 최소 평균 제곱 필터와 관련이 있지만, 후자의 오차 기준을 최소화하는 것은 교차 상관 또는 자동 상관에 의존하지 않는다. 위너 필터 솔루션으로 수렴한다.

복잡한 신호

복합적인 신호의 경우 복합적인 Wiener 필터의 파생은 E${\displaystyle }$[ $e{\displaystyle }$ [${\displaystyle ]}$ ${\displaystyle {}^{\mathrm{}}}$ ${\displaystyle {}^{}}$ ${\$ E$\left[\n] ^{2}\right]}$ $$=${\displaystyle E}$ [ ${\displaystyle e]}$ ${\displaystyle {}^{}]}$ e$]$] {\$displaysty E\$left$[e^{*]\right$을 최소화하여 수행된다. 여기에는 ${\displaystyle i_{}}$ ${\$의$$실제 부분과 가상 부분에 관한 부분파생상품을 계산하고 둘 다 0이 되도록 요구하는 것이 포함된다.

결과적인 Wiener-Hopf 방정식은 다음과 같다.

${\displaystyle \sum _{j=0}^{N}R_{w}[j-i]a_{j}^{*=R_{ws}[i]\qquad i=0,\cdots, N.}$

매트릭스 형식으로 다시 작성할 수 있는 내용:

${\displaystyle \underbrace {\begin{bmatrix}R_{w}[0]&R_{w}^{*}[1]&\cdots &R_{w}^{*}[N-1]&R_{w}^{*}[N]\\R_{w}[1]&R_{w}[0]&\cdots &R_{w}^{*}[N-2]&R_{w}^{*}[N-1]\\\vdots &\vdots &\\vdots &\vdots &\vdots &\\vdots \\\\\R_{w}[N-1]&&&&#\vdots.R_{w}[N-2]&\cdots &R_{w}[0]&R_{w}^{*}[1]\\R_{w}[N]&R_{w}[N-1]&\cdots &R_{w}[1]&gt;R_{w}[0]\end{bmatrix}} _{\mathbf {T}}}\underbrace {\begin{bmatrix}a_{0}^{0}}\\a_{1}^}\*\\\\\\vdots \a_{{{N-1}^{*}}}}}}}}}}}\a_{{{{{n-}}}}}}}}}}\a_}}}}}}}}}\a_{{{{{{{{{{{N}^{*}\end{bmatrix} _{\mathbf {a^{*}}}}}}=\underbrace {\begin{bmatrix}R_{ws}[0]\\\\R_{ws}[1]\\\vdots \\\R_{ws}[N-1]\\R_{ws}[N]\end{bmatrix} _{\mathbf {v}}}}}}$

여기서 주의할 점은:

Wiener 계수 벡터는 다음과 같이 계산된다.

적용들

Wiener 필터는 신호 처리, 이미지 처리, 제어 시스템, 디지털 통신 등에서 다양한 응용 프로그램을 가지고 있다. 이러한 애플리케이션은 일반적으로 네 가지 주요 범주 중 하나로 분류된다.

• 시스템 식별
• 디콘볼루션^[3]
• 소음 감소
• 신호탐지

예를 들어, Wiener 필터는 사진의 노이즈를 제거하기 위해 이미지 처리에 사용될 수 있다. 예를 들어 Mathematica 함수를 사용하는 경우: WienerFilter[image,2] 오른쪽의 첫 번째 이미지에서 그 아래에 필터링된 이미지를 생성한다.

그것은 일반적으로 음성 인식 전에 전처리기로서 오디오 신호, 특히 언어의 청록색을 없애기 위해 사용된다.

역사

이 필터는 1940년대 노버트 위너에 의해 제안되어 1949년에 출판되었다.^[4] 비에너의 작품과 별개의 시간에 해당하는 이 작품은 안드레이 콜모고로프가 독자적으로 도출해 1941년에 출간했다. 따라서 이 이론을 흔히 비에너-콜모고로프 필터링 이론(cf)이라고 부른다. 크리깅(Kriging. Wiener 필터는 최초로 제안된 통계적으로 설계된 필터였으며, 그 결과 Kalman 필터를 포함한 많은 다른 필터들이 생겨났다.

참고 항목

• 노르베르트 비너
• 에버하르트 홉
• 비너 디콘볼루션
• 최소 평균 제곱 필터
• 위너와 LMS의 유사점
• 선형 예측
• MMSE 추정기
• 칼만 필터
• 일반화 위너 필터
• 일치 필터
• 정보장 이론

참조

• 토마스 카일랏, 알리 H. 세이드, 바박 하시비, 선형 추정, 프렌티스 홀, NJ, 2000년 ISBN 978-0-13-022464-4.
• Wiener N: 고정 시계열의 보간, 외삽 및 스무딩', 서비스 19 보고서, 연구 프로젝트 DIC-6037 MIT, 1942년 2월
• 콜모고로프 A.N: '힐버트 공간의 스테이션 시퀀스', (러시아어) Bull. 1941년 제2권 제6호 1-40호. Kailath T. (ed.) 선형 최소 제곱 추정 Dowden, Hutchinson & Ross 1977

외부 링크

• Mathematica WienerFilter 함수