최소 평균 제곱 필터

이 글은 일반적인 참고문헌 목록을 포함하고 있지만, 그에 상응하는 인라인 인용구가 충분하지 않기 때문에 대체로 검증되지 않은 상태로 남아 있다. 좀 더 정밀한 인용구를 도입하여 이 기사를 개선할 수 있도록 도와주십시오.(2019년 1월) (이 템플릿 메시지를 제거하는 방법과 시기 알아보기)

최소 평균 제곱(LMS) 알고리즘은 오류 신호의 최소 평균 제곱(원하는 신호와 실제 신호의 차이) 생성과 관련된 필터 계수를 찾아 원하는 필터를 모방하는 데 사용되는 적응형 필터의 일종이다.필터가 현재 시간에 오차를 기준으로만 조정된다는 점에서 확률적 그라데이션 강하법이다.1960년 스탠퍼드대 교수 버나드 위드로와 그의 첫 박사과정 학생인 테드 호프에 의해 발명되었다.null

문제 제식

Wiener 필터와의 관계

인과적인 Wiener 필터의 실현은 신호 처리 도메인을 제외하고 최소 제곱 추정치에 대한 해답과 많이 닮았다.입력 행렬 $X{\displaystyle \mathbf{}}$ ${\$ 및 출력$$ 벡터 $y{\displaystyle \mathit{}}$ ${\$에 대한 최소 제곱 솔루션은

${\displaystyle {\boldsymbol {\hat {\beta}}=(\mathbf {T}{\mathbf {T}}^{-1}\mathbf {X}^{\mathbf {T}{\boldsymbol {y}).}$

FIR 최소 평균 제곱 필터는 Wiener 필터와 관련이 있지만, 전자의 오차 기준을 최소화하는 것은 교차 상관이나 자동 상관에 의존하지 않는다.위너 필터 솔루션으로 수렴한다.대부분의 선형 적응형 필터링 문제는 위의 블록 다이어그램을 사용하여 공식화할 수 있다.That is, an unknown system ${\displaystyle \mathbf {h} (n)}$ is to be identified and the adaptive filter attempts to adapt the filter ${\displaystyle {\hat {\mathbf {h} }}(n)}$ to make it as close as possible to ${\displaystyle \mathbf {h} (n)}$, while using only observable signals ${\displaystyle x(n}$${\displaystyle )}$ ${\displaystyle x(n$ $d{\displaystyle (n)}$ ${\displaystyle d(n)},$ $e$(n) ${\displaystyle e(n$ 그러나 $y{\displaystyle (n)}$ ${\$$displaystyle y$$(n$ $v{\displaystyle }$$(n)$ 및$$ h$($는 직접 관측할 수 없다$$.그 해결책은 위너 필터와 밀접한 관련이 있다.null

기호의 정의

${\displaystyle n}$ ${\displaystyle n}$은(는) 현재 입력 샘플 수입니다.

${\displaystyle p}$ ${\displaystyle p}$은(는) 필터 탭 수입니다.

${\displaystyle \{}$ ${\displaystyle \cdot }$ }${\displaystyle {}^{}}$} ${\displaystyle H^{}}$ ${\$\{\$cdot$\}^{$H}}($헤르미티안 전치 또는 결합 전치)

${\displaystyle \mathbf {x}(n)=\좌측[x(n),x(n-1)]\n(n-p+1)\우측]^{T}$

${\displaystyle \mathbf {h}(n)=\왼쪽[h_{0}(n), h_{1}(n),\message ,h_{p-1}(n)\right]^{T},\quad \mathbf {h}(n)\in \mathb {C} ^{p}}}$

${\displaystyle y(n)=\mathbf {h}^{H}(n)\cdot \mathbf {x}(n)}$

${\displaystyle d(n)=y(n)+\nu(n)}$

${\displaystyle \stackrel{}{}h}$ ${\displaystyle \stackrel{}{}}$( n${\displaystyle }$) ${\displaystyle {\hat {\mathbf {h}}}}}$ 추정 필터$$, 샘플 n개 이후 필터 계수의 추정으로 해석

${\displaystyle e(n)=d(n)-{\hat {{y}(n)-{\hat {\mathbf{h}}}}}^{H}(n)\cdot \mathbf {x}(n)}$

아이디어

LMS 필터의 기본 아이디어는 필터 무게를 최적의 필터 무게로 수렴하는 방식으로 업데이트함으로써 최적의 필터 무게$({\displaystyle {}^{}}$- ${\displaystyle 1^{}}$ $){\displaystyle (R^{-1}P$에 접근하는 것이다.이것은 구배 강하 알고리즘에 기초한다.알고리즘은 작은 가중치(대부분의 경우 0)를 가정하는 것으로 시작하고, 각 단계에서 평균 제곱 오차의 구배를 찾아 가중치를 업데이트한다.즉, MSE-gradient가 양수인 경우, 추가 반복에 동일한 가중치를 사용한다면 오류가 계속 긍정적으로 증가할 것임을 의미하며, 이는 우리가 가중치를 줄여야 한다는 것을 의미한다.마찬가지로 구배도 음수일 경우 가중치를 높여야 한다.중량 업데이트 방정식은

${\displaystyle W_{n+1}=$$W_{n}-\mu \nabla \varepsilon [n$

여기서 ∆ ${\displaystyle \var렙실론 }$은(는) 평균 제곱 오차를 나타내고$$ $\mu {\displaystyle }$ ${\displaystyle \mu }$은(는) 수렴 계수다.null

부정적인 기호는 오류를 최소화하는 필터 웨이트인 ${\$ W_${i}$를 찾기 위해$$ 오류의 슬로프인 ${\displaystyle \varipsilon}$을(를) 아래로 내려간다는 것을 나타낸다$.$null

필터 가중치의 함수로서의 평균 제곱 오차는 최적 가중치인 평균 제곱 오차를 최소화하는 2차 함수를 의미한다.따라서 LMS는 평균-제곱 오차 대 필터 중량 곡선을 상승/하강함으로써 최적의 가중치를 향해 접근한다.null

파생

${\displaystyle \mathrm{LMS}}$ 필터의 아이디어는 비용 함수를 최소화하는 필터$$ 무게 $h{\displaystyle \stackrel{}{\mathbf{}}}$ ${\displaystyle \stackrel{}{}}$( n${\displaystyle }$) ${\displaystyle {\hat {\mathbf{h}}}}}}}$을(를$)$ 찾기 위해 가장 가파른 내리막을 사용하는 것이다.먼저 비용 함수를 다음과 같이 정의한다.

${\displaystyle C(n)=E\left\{e(n)^{2}\오른쪽\}}$

여기서 $e{\displaystyle }$( ${\displaystyle n}$) ${\displaystyle e(n)}$은 현재 샘플 n의 오류이고 $E{\displaystyle }${ ${\displaystyle \cdot }$} ${\displaystyle$ E$\{\cdot \}}$은 기대값을 나타낸다.null

이 비용 함수(C${\displaystyle }$(${\displaystyle n}$) ${\displaystyle C(n)}$)는 평균 제곱 오차로, LMS에 의해 최소화된다. 여기서 LMS가 이름을 얻는다.필터 계수(중량) 벡터의 개별 입력과 관련하여 부분 파생 모델을 취하기 위해 가장 가파른 내리막 평균 적용

${\displaystyle \nabla _{{\hat {\mathbf {h} }}^{H}}C(n)=\nabla _{{\hat {\mathbf {h} }}^{H}}E\left\{e(n)\,e^{*}(n)\right\}=2E\left\{\nabla _{{\hat {\mathbf {h} }}^{H}}(e(n))\,e^{*}(n)\right\}}$

여기서 $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle \nabla}$은(는) 그라데이션 연산자임

${\displaystyle \nabla _{\hat {\mathbf {h}}}}}}^{H}(e(n)}}}=\nabla _{\hat {\mathbf {h}}}^{\hat}}}H}}}\왼쪽(d(n)-{\hat {\mathbf{h}}}}^{H}\cdot \mathbf {x}(n)\right)=-\mathbf {x}(n)}$

${\displaystyle \nabla C(n)=-2E\left\{\mathbf {x}(n)\,e^{*(n)\right\}}}}$

현재 $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle C}$( ${\displaystyle n}$) ${\displaystyle \nabla C(n)}$은 비용 함수의 가장 가파른 상승을 가리키는 벡터다$$.비용 함수의 최소값을 찾으려면 $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle C(n}$ ${\displaystyle )}$의 반대 방향으로 한 걸음 더 나아가야 한다$.$$∇$ C($n)$의 수학적 용어로 표현하려면

${\displaystyle {\hat {\mathbf {h} }}(n+1)={\hat {\mathbf {h} }}(n)-{\frac {\mu }{2}}\nabla C(n)={\hat {\mathbf {h} }}(n)+\mu \,E\left\{\mathbf {x} (n)\,e^{*}(n)\right\}}$

여기서 $\mu {\displaystyle \frac{}{}}$ ${\displaystyle \frac{2}{}}$ ${\$은 단계$$ 크기(최대 상수)이다.즉, 비용 함수를 최소화하는 순차 업데이트 알고리즘을 찾았다.불행히도 이 ${\displaystyle 알고리즘}$은 $E{\displaystyle }${ x${\displaystyle }$( ${\displaystyle n{}^{}}$) e ${\displaystyle {\ast }^{}}$( ${\displaystyle n}$) ${\displaystyle \}}$ ${\$을(를) 알 때까지는 실현 가능하지 않다$.$

일반적으로 위의 기대치는 계산되지 않는다.대신 LMS를 온라인(각 새로운 샘플이 수신된 후 업데이트) 환경에서 실행하기 위해 우리는 그 기대치에 대한 즉각적인 추정치를 사용한다.아래 내용 참조.null

단순화

대부분의 시스템에서 ${\displaystyle 기대\mathbf{}}$ 함수 $E{\displaystyle }${ ${\displaystyle x}$( ${\displaystyle n}$) e ${\displaystyle {\ast }^{}}$( n${\displaystyle }$) ${\displaystyle \}}$ ${\$은(는) 근사치여야 한다$$.다음과 같은 불편함이 없는 추정기로 이 작업을 수행할 수 있다.

${\displaystyle {\e}\{n-i}\{\mathbf {x}(n)\,e^{n)\}={\frac {1}{{{N}\sum _{i=0}^{N-1}}\mathbf {x}\,e^{*}(n-i)}$

여기서 $N{\displaystyle }$ ${\displaystyle N}$은 해당 견적에 사용하는 표본 수를 나타낸다.가장 간단한 경우는 ${\displaystyle \mathrm{N}}$= 1 ${\displaystyle N=1}$이다.

${\displaystyle {\e}\left\{\mathbf {x}\(n)\,e^{*}}\*(n)\right\}=\mathbf {x}\,e^{*(n)}$

그러한 간단한 경우에 업데이트 알고리즘은 다음과 같다.

${\displaystyle {\hat {\mathbf {h}}}}}}}}{\hatbf {h}}}}}{\mathbf {x}\e^{*(n)}}}$

실제로 이것은 LMS 필터의 업데이트 알고리즘을 구성한다.null

LMS 알고리즘 요약

$p{\displaystyle }$ ${\displaystyle p}$ 순서$$ 필터에 대한 LMS 알고리즘은 다음과 같이 요약할 수 있다.

매개 변수:	${\displaystyle p}$= ${\displaystyle$ p$=}$필터$$ 순서
	${\displaystyle \mu }$= ${\displaystyle \mu =}$단계$$ 크기
초기화:	${\displaystyle {\hat {h}}}}}}}(0)=\mathbname {zeros}(p)}$
계산:	$n{\displaystyle }$= ${\displaystyle 0,}$ ${\displaystyle 1}$, ${\displaystyle 2}$,${\displaystyle }$.${\displaystyle }$. . ${\displaystyle n=0,1,2,...$$}$
	${\displaystyle \mathbf {x}(n)=\좌측[x(n),x(n-1)]\n(n-p+1)\우측]^{T}$
	${\displaystyle e(n)=d(n)-{\hat {\mathbf {h}}}}^{H}(n)\mathbf {x}(n)}$
	${\displaystyle {\hat {\mathbf {h}}}}}}}{\hatbf {h}}}={\hatbf {h}}}}}}}}}}}$

평균의 수렴 및 안정성

LMS 알고리즘은 기대치의 정확한 값을 사용하지 않기 때문에 절대적 의미에서는 가중치가 최적 가중치에 도달하지 못하지만 평균적으로는 수렴이 가능하다.즉, 체중이 작은 양으로 변할 수 있지만, 최적의 체중에 대해 변화한다.그러나 가중치가 변동하는 분산이 크면 평균의 수렴이 오도될 수 있다.스텝 사이즈 $\mu {\displaystyle }$ ${\displaystyle \mu }$의 값을 제대로 선택하지 않으면$$ 이 문제가 발생할 수 있다.null

만약 $[\displaystyle \mu$}이 큰 것으로 선택된다면$$, 가중치가 변하는 양은 구배 추정치에 크게 의존하게 되고, 따라서 가중치가 큰 값으로 변경되어 첫 순간에 음수였던 구배가 이제 양수가 될 수 있다.그리고 두 번째 순간, 무게는 음의 구배 때문에 반대 방향으로 크게 변할 수 있고 따라서 최적 무게에 대해 큰 분산으로 계속 진동할 것이다.반면 $\mu {\displaystyle }$ ${\displaystyle \mu }$이(가) 너무 작다고 선택되면$$ 최적 체중에 수렴할 시간이 너무 커진다.null

따라서 $0{\displaystyle }$ <> $$ ${\$에 대한 상한 값이 필요하다$$.

where ${\displaystyle \lambda _{\max }}$ is the greatest eigenvalue of the autocorrelation matrix ${\displaystyle {\mathbf {R} }=E\{{\mathbf {x} }(n){\mathbf {x} ^{H}}(n)\}}$. If this condition is not fulfilled, the algorithm becomes unstable and ${\displaystyle$${\hat{h}(n)}$이(가) 갈라진다.null

최대 수렴 속도는 다음과 같다.

${\displaystyle \mu ={\frac {2}{\mathda _{\mathrm {max}}+\mathda _{\mathrm {min}}}}}}},$

여기서 ${\displaystyle {\lambda min}_{}}$ ${\$$displaystyle \lambda _{\min}}$은(는) R$${\$displaystyle$${\$$mathbf {R$}}}}의 최소 고유값이다$.$$\mu {\displaystyle {}_{}}$}{\$displaystystyle \lambda _{\min}}}}$이 최적값보다 작거나 같음을 감안하여 수렴 속도가 ${\displaystyle {결정}_{}}$되며, 값이 클수록 수렴 속도가 빨라진다$.$ce. 이는 $achie{\displaystyle \mathbf{}}$ max$$${\$이(가) ${\displaystyle {\lambda min}_{}}$ ${\$$displaystyle$ $\$$lambda_{\min }}}$에 가까울 때 더 빠른 수렴 속도를 달성할 수 있다는 것을 의미한다$.$

백색 노이즈 신호는 자기 상관 행렬 $R{\displaystyle \mathbf{}}$= ${\displaystyle {}^{}}$ ${\displaystyle {}^{}\mathbf{}}$ ${\displaystyle {I\mathrm{}}^{}}$ ${\displaybf$ {$R} }=\mathbf${R}}=\$sigma ^{2}{\mathbf {I}}}}}}}}}}$을(를) 가지고 있으며, 여기서$\sigma {\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$ ${\$}}은$$ 신호의 분산이다.이 경우 모든 고유값은 동일하며 고유값 산포도는 가능한 모든 행렬에 대한 최소값이다.따라서 이 결과에 대한 일반적인 해석은 LMS가 백색 입력 신호에 대해 빠르게 수렴되고, 저역 통과 또는 고역 통과 특성을 갖는 프로세스와 같은 색상의 입력 신호에 대해서는 천천히 수렴된다는 것이다.null

상기 $\mu$에 대한 상한 값 ${\displaystyle \mu$}은(는) 평균의 안정성을 강제할$$ 뿐이지만, $h{\displaystyle \stackrel{}{}^(n}$) ${\displaystyle {\h}(n)}$의 계수는 여전히 무한히 커질 수 있으며$$, 즉 계수의 분산이 여전히 가능하다는 점에 유의해야 한다.좀 더 실용적인 바운드는

${\displaystyle 0<\mu <{\frac {2}{\mathrm {tr} \left[{\mathbf {R}}\right]}}},},}$

여기서$$ t ${\displaystyle \mathrm{r}}$[ ${\displaystyle R\mathbf{}}$ ${\displaystyle ]}$ ${\displaystyle \mathrm {tr}[{\mathbf {R}}]$은 $R{\displaystyle \mathbf{}}$ ${\$의 추적을 나타낸다$.$이 바운드는 $h{\displaystyle \stackrel{}{}^(n}$) ${\displaystyle {\hat{h}($n)}}의 계수가 이탈하지$$ 않도록 보장한다(실제로는 바운드의 도출에서 이루어진 근사 및 가정으로 인해 다소 낙관적이므로 $\mu {\displaystyle }$ ${\displaystyle \mu }$의 값을 이 상한에 가깝게 선택해서는 안 된다$$).null

정규화된 최소 평균 제곱 필터(NLMS)

"순수" LMS 알고리즘의 주요 단점은 입력 $x{\displaystyle }$(${\displaystyle n}$) ${\displaystyle$x$(n)}$의 스케일링에 민감하다는 것이다$.$이로 인해 알고리즘의 안정성을 보장하는$$ 학습률 $[\displaystyle \mu }$을(를) 선택하는 것이 매우 어려워진다(헤이킨 2002).NLMS(Normalized never manage square filter)는 입력의 힘으로 정규화함으로써 이 문제를 해결하는 LMS 알고리즘의 변형이다.NLMS 알고리즘은 다음과 같이 요약할 수 있다.

매개 변수:	${\displaystyle p}$= ${\displaystyle$ p$=}$필터$$ 순서
	${\displaystyle \mu }$= ${\displaystyle \mu =}$단계$$ 크기
초기화:	${\displaystyle {\hat {h}}}}}}}(0)=\mathbname {zeros}(p)}$
계산:	$n{\displaystyle }$= ${\displaystyle 0,}$ ${\displaystyle 1}$, ${\displaystyle 2}$,${\displaystyle }$.${\displaystyle }$. . ${\displaystyle n=0,1,2,...$$}$
	${\displaystyle \mathbf {x}(n)=\좌측[x(n),x(n-1)]\n(n-p+1)\우측]^{T}$
	${\displaystyle e(n)=d(n)-{\hat {\mathbf {h}}}}^{H}(n)\mathbf {x}(n)}$
	${\displaystyle {\hat(n){\mathbf{h}}}}}{\hatbf {h}}}{\mathbf {h}}}{\mathbf {x}{n}}}}}}}}{H}(n)\mathbf {x}}}}{mathbf {n}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}} {n}}}}}}}}}}}}}$

최적 학습률

간섭(${\displaystyle }$(${\displaystyle n}$)${\displaystyle }$= ${\displaystyle 0}$ (\$displaystyle v(n)=0})$이 없는 경우 NLMS 알고리즘에 대한 최적의 학습 속도는 다음과 같다.

${\displaystyle \mu _{opt}=1}$

그리고 입력 $x{\displaystyle }$ ${\displaystyle (n}$ ${\displaystyle )}$ ${\displaystyle x(n)}$ 및 실제$$ (알 수 없는) $임펄스{\displaystyle \mathbf{}}$ 응답 h ${\displaystyle (n}$ ${\displaystyle )}${\$displaystyle \mathbf$ {$h}$ (n$)}$과 독립적이다$.$ 간섭(${\displaystyle }$(${\displaystyle n}$) ${\displaystyle \ne }$ ${\displaystyle 0}$ $(\displaysty v(n)\neq 0})$과 관련된 일반적인 경우,$$ 최적의 학습률은

${\displaystyle \mu _{opt}={\frac {E\왼쪽[\왼쪽 y(n)-{\hat {y}(n)\오른쪽 ^{2}\오른쪽]}{E\왼쪽[e(n) ^{2}\오른쪽]}}}$

위의 결과는 $신호{\displaystyle }$ v${\displaystyle }$(${\displaystyle n}$) ${\displaystyle v(n)}$과 $x{\displaystyle }$ ${\displaystyle (n)}$ ${\displaystyle x(n)}$이(가) 서로 상관관계가 없다고$$ 가정하며, 이는 일반적으로 실제에 해당된다.null

증명

필터 오정렬을 $\lambda {\displaystyle \mathrm{}(n^{}}$)${\displaystyle }$= h (${\displaystyle {n\mathbf{}}^{}}$)${\displaystyle {}^{}}$- ${\displaystyle {h\stackrel{}{\mathbf{}}}^{}}$ ${\displaystyle {\stackrel{}{}}^{}}$( ${\displaystyle n^{}}$) ${\displaystyle 2^{\mathrm{}}}$ ${\$로 정의하면$$다음 샘플에 예상되는 오정렬을 다음과 같이 도출할 수 있다.

$[\displaystyle E\left[\Lambda (n+1)\right]=E\left[\왼쪽] {\mathbf {h}}}}}}}{\frac {\mathbf {x}{*(n)}}{\mathbf {x}{{H}(n)}\mathbf {x}}}}}{n)-\mathbf {h}\오른쪽 ^{2}\}$

$[\displaystyle E\left[\Lambda (n+1)\right]=E\left[\left {\hat {\mathbf {h} }}(n)+{\frac {\mu \,\left(v^{*}(n)+y^{*}(n)-{\hat {y}}^{*}(n)\right)\mathbf {x} (n)}{\mathbf {x} ^{H}(n)\mathbf {x} (n)}}-\mathbf {h} (n)\right ^{2}\right]}$

$\Delta {\displaystyle }$= ${\displaystyle h\stackrel{}{\mathbf{}}}$ ${\displaystyle \stackrel{}{}}$( ${\displaystyle n}$)${\displaystyle }$- h (${\displaystyle n}$ ${\displaystyle )}$ ${\displaystyle \mathbf {\delta$}$={\hattle$\mathbf {$h}}}}}}}}:{\$$hattime{\displaystyle }$ r($n)$ = y^(${\displaystyle n}$) - $n$ =${\displaysty(n)-$y)-y(n)-y(n)-y$(n)}$

$[\displaystyle E\left[\Lambda (n+1)\right]=E\왼쪽[\왼쪽 \mathbf {\delta }-{\frac \\mu \\,\left(v)(n)+r(n)\x}{\mathbf {x}{{H}(n)\mathbf {x}\n}\오른쪽 ^{2}$

$[\displaystyle E\left[\Lambda (n+1)\right]=E\left[\left(\mathbf {\delta })-{\frac {\mu \\\,\left(v)(n)+r(n)\x}{\mathbf {x}{{H}(n)\mathbf {x}}}}}}}{{n)*^{{{{{n}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}{mathH}\왼쪽(\mathbf {\delta })-{\frac \\mu \,\left(v(n)+r(n)\right)\mathbf {x}{{H}(n)\mathbf {x}\x}\right]$

독립성을 가정할 때 다음과 같이 한다.

$[\displaystyle E\left[\Lambda (n+1)\right]=\람다 (n)+E\left[\frac {\mu \\,\left(v)(n)+r(n)\right)\mathbf {x}{n){{H}(n)}}\mathbf {x}}}}\mathbf {x}}\right)^{{{{{{{{{}}}}}H}\left({\frac {\mu \,\left(v(n)+r(n)\right)\mathbf {x} (n)}{\mathbf {x} ^{H}(n)\mathbf {x} (n)}}\right)\right]-2E\left[{\frac {\mu r(n) ^{2}}{\mathbf {x} ^{H}(n)\mathbf {x} (n)}}\right]}$

$[\displaystyle E\left[\Lambda (n+1)\right]=\Lambda (n)+{\frac {\mu ^{2}E\left[ e(n) ^{2}\right]}{\mathbf {x} ^{H}(n)\mathbf {x} (n)}}-{\frac {2\mu E\left[ r(n) ^{2}\right]}{\mathbf {x} ^{H}(n)\mathbf {x} (n)}}}$

최적의 학습률은 ${\displaystyle \frac{d}{}}$ $E{\displaystyle \frac{}{}}$[ ${\displaystyle \frac{\lambda \mathrm{}}{}}$(${\displaystyle \frac{n}{}}$+ ${\displaystyle \frac{1}{}}$) ${\displaystyle \frac{]}{}}$ ${\displaystyle \mathrm{\mu }\frac{}{}}$= 0 ${\displaystyle {\dE\left[\lambda (n+1)\rift]}{d\mu }=0$에서 확인되며, 이는 다음과 같은 결과를 낳는다.

${\displaystyle 2\mu E\left[e(n) ^{2}\right]-2E\left[r(n) ^{2}\right]=0}$

${\displaystyle \mu ={\frac {E\left[r(n) ^{2}\오른쪽]}{E\왼쪽[e(n) ^{2}\오른쪽]}}}$

참고 항목

• 재귀 최소 제곱
• LMS 필터와 관련된 통계 기법은 최소 제곱을 참조하십시오.
• Wiener와 LMS의 유사성
• 멀티델레이 블록 주파수 영역 적응 필터
• 제로 강제 이퀄라이저
• 커널 적응 필터
• 일치 필터
• 위너 필터

참조

• 몬슨 H.Hayes: 통계 디지털 신호 처리 및 모델링, Wiley, 1996, ISBN0-471-59431-8
• 사이먼 헤이킨:적응형 필터 이론, 프렌티스 홀, 2002, ISBN 0-13-048434-2
• 사이먼 S.헤이스킨, 버나드 위드로(편집자):Last-Mean-Square Adaptive Filters, Wiley, 2003, ISBN 0-471-21570-8
• 버나드 위드로, 새뮤얼 D.스턴스:적응형 신호 처리, 프렌티스 홀, 1985, ISBN 0-13-004029-0
• 웨이펑 류, 호세 프린시페, 사이먼 헤이킨: 커널 적응 필터링: 종합 소개, 존 와일리, 2010, ISBN 0-470-44753-2
• 파울루 S.R.Diniz: Adaptive Filtering: Kluwer Academic Publishers, 1997, ISBN 0-7923-9912-9

외부 링크

• 적응형 안테나 어레이의 LMS 알고리즘 www.antenna-theory.com
• LMS 노이즈 취소 데모 www.advsolned.com