힐버트 투영 정리

Hilbert projection theorem

수학에서 힐버트 투영 정리힐버트 공간 H에 있는 모든 x{\ H 및 비어 있지 않은 모든 닫힌 볼록 , 에 대해 고유한 벡터 존재한다는 볼록 분석의 유명한 결과물이다. - \은(는) c 을(를) 통해 최소화된다 즉, c C. c {\ - x.

유한 치수 케이스

정리에 대한 어떤 직관력은 최적화 문제의 첫 번째 순서 조건을 고려함으로써 얻을 수 있다.

하위 공간 x. m (가) 함수 : 최소점 또는 최소점인 경우 유한 치수 실제 Hilbert H H}을 고려하십시오.)에 의해 정의된 }:= - - 2{\}} }의 최소 지점과 같음), 이후 은 m. 에서 0이어야 한다

행렬 파생상품 표기법[1]

접선 방향을 나타내는 C 의 벡터이므로 - 은(는) 의 모든 벡터에 직교해야 한다

성명서

Hilbert projection theoremFor every vector in a Hilbert space and every nonempty closed convex there exists a unique vector for which is equal to

닫힌 부분 C 이( H {\ H 벡터 하위 공간인 경우 이 가) 직교하는 C 의 고유한 요소인 것이다.

세부적인 기초 증명

최소 점 (가) 존재한다는 증거

Let be the distance between and a sequence in such that the distance squared between (는) + / . 보다 작거나 같다 (를) 두 정수로 하고, 다음 등가치가 참이다.

그리고
그러므로
(This equation is the same as the formula for the length of a median in a triangle with sides of length and where specifically, the triangle의 꼭지점은 , m , x 입니다.

동일성의 처음 항에 상한선을 부여하고 의 중간이 속하며 따라서 , 에서 보다 크거나 같은 거리를 갖는다는 것을 알아봄으로써 따른다.이 경우:

마지막 불평등은()= (가) 코우치 시퀀스임을 증명한다. C (가) 완료되었으므로 시퀀스는 x의 거리가 최소인 지점 m , 에 수렴된다.

(가) 고유하다는 증거

}과 }}개를 최소의 점으로 한다.다음:

m + m c m 1 +m - 2 2\\\}에 속함 따라서

따라서 = , 고유성을 증명한다.

이(가) 폐쇄 벡터 하위 공간일 때 최소 점의 특성화 증명

Assume that is a closed vector subspace of It must be shown the minimizer is the unique element in such that for every

Proof that the condition is sufficient: Let be such that for all If then and so

which implies that Because was arbitrary, this proves that and so is a minimum point.

조건이 필요하다는 증거: 을(를) 최소 지점으로 한다.Let and Because the minimality of guarantees that Thus

항상 음이 m- , 은(는) 실수여야 한다. - , 경우 지도 ( ) : m- , + has a minimum at and moreover, which is a contradiction.따라서 - , =

특수 케이스로 환원하여 증빙

인 경우는C {\ C을(를 C- x. {\ 대체함으로써 아래 문장에서 따르기 때문에 = x의 경우에 정리를 증명하기에 충분하다.

{H\displaystyle,} 있는 고유한 벡터 m이 힐버트 교수 도법마다 nonempty 문을 닫볼록 부분 집합은 힐베르트 공간의 C⊆ H{\displaystyle C\subseteq H}H,(사건)=0{\displaystyle x=0})[2]— 정리 ∈ C{\displaystylem\in C}가 inf c∈ C‖ c‖)‖ m‖.{\displaystyle \inf_{Cc\in}\ c\)

Furthermore, letting if is any sequence in such that in [note 1] 다음에 림 c= m {\

증명

을(를) 이 정리에 설명된 대로 하고

이 정리는 다음과 같은 레마로부터 뒤따를 것이다.

Lemma 1If is any sequence in such that in then there exists some 더 나아가 H 에서 = c (가 되도록C {\.

보조정리증서 1
평행사변형법 벡터: + y + - 2= x + . y\ ^{2 x-y\ ^{2 x-y\}= y\}.

Because is convex, if then so that by definition of the infimum, 이(가) 4 m + 2. 평행도법에 따르면

여기서 m + {\\leq\\ \}} 이제 암시한다.
등등
= = } =는 위의 불평등의()을 m{\displaystytylem 과 n}을 충분히 크게 만들어 에 가깝게 임의로 만들 수 있음을 암시한다.[note 2]The same must consequently also be true of the inequality's left hand side and thus also of which proves that H의 Cauchy 시퀀스다.

Since is complete, there exists some such that in Because every belongs to which is a closed subset of their limit must also belongs to this closed subset, which proves that Since the norm is a continuous function, in implies that in But also holds (by assumption) so that = \ {의 제한은 고유하기 때문)

Lemma 2 — Lemma 1의 가설을 만족시키는 시퀀스 ) = {\이 존재한다.

보조정리증2길

수열의 존재는 지금 보여지는 바와 같이 최소의 정의에서 따온 것이다.The set is a non-empty subset of non-negative real numbers and Let be an integer. < + ,{\ S) 있기 s< + . . . . . . . . ..1}{ , S d= hold (최소값 정의)따라서;d+1n{\displaystyled\leq s_{n}<, d+{\frac{1}{n}}}그리고 지금 스퀴즈 theorem R.{\displaystyle \mathbb{R}에서lim ns∞ n→)d{\displaystyle \lim_{n\to\infty}s_{n}=d}을 의미한다.}(그 증거의 이 첫번째 부분 S⊆ R의 사각형 부분 집합에서 일하{S.\displaystyle s≤ n<>친절\subs s (는) 유한함).

For every the fact that means that there exists some such that The convergence in thus becomes in

Lemma 2와 Lema 1은 과 같이 고유성을 입증하기 위해 C Lema 1을 사용할 수 있는 c {\ c이(가) 존재함을 증명한다. (가)b = \과(와) 같으며 시퀀스를 나타낸다고 가정합시다.

by so that the subsequence of even indices is the constant sequence while the subsequence of odd indices is the constant sequence Because for every in which shows that the sequence satisfies the hypotheses of Lemma 1.Lemma 1 guarantees the existence of some such that in Because converges to so do al그 부속의 l.특히, , c, ,은(는) x={\ H}의 한계가 고유하고 이 일정한 반복도 로 수렴된다는 것을 의미한다. = x , b,이(가) 둘 다로 수렴되기 때문에 x= {\displaysty} 따라서 = , 정리를 증명한다.

결과들

제안 이(가) Hilbert 공간 의 닫힌 벡터 하위 공간인 경우[note 3]

증명[3]

={ C:

⊥{\C^{\(가 = c, = 2, 0}, c= 0 c=c=c=c=


(가) H H}의 폐쇄 벡터 하위 공간이라는 증거

를) 두십시오. 여기서 는) H 의 기본 스칼라 필드입니다.

which is continuous and linear because this is true of each of its coordinates The set is closed in because : → P 은(는) 연속이다.선형 지도의 커널은 그 도메인의 벡터 서브공간으로, why = ker= ker ker C L이(가) . 의 벡터 서브공간인 까닭이다.


+ =

Let The Hilbert projection theorem guarantees the existence of a unique such that (or equivalently, for all ). - (를) = ++ (를 그대로 두어 위의 다음과 같이 다시 쓸 수 있다

Because and is a vector space, and which implies that 따라서 이전의 불평등은 다음과 같이 된다.
또는 동등하게
그러나 이 마지막 진술은 만약 , = 0 . C 따라서 \blacksquare \의 \c.

특성.

글로벌 최소값으로 표현

힐버트 투영 정리의 문장과 결론은 다음 함수의 글로벌 최소치 관점에서 표현될 수 있다.그들의 표기법은 또한 특정 문장을 단순화하는 데 사용될 것이다.

비어 있지 않은 부분 집합 H 일부 , 이(가) 함수를 정의함

, , 글로벌 최소 지점은 도메인 C , = {\ 있는 임의 m 입니다.
이 경우 d , (m)== m- 은(는) , x, 함수의 전역 최소값과 같으며, 이는 다음과 같다.

번역 및 메스의 효과

이 글로벌 최소 m 이(가) 존재하고 고유하면 , x 명시적으로 표시하면 최소(, )의 정의 속성은 다음과 같다.

힐버트 투영 정리는 이(가) 힐버트 공간의 비어 있지 않은 닫히고 볼록한 부분 집합일 때마다 이 고유한 최소 지점이 존재함을 보장한다.그러나 이러한 최소 지점은 비콘벡스 또는 비폐쇄 하위 집합에도 존재할 수 있다. 예를 들어, C이(가) 비어 있지 않은 것처럼, C {\ x\in C}이면 (

(가) 비어 있지 않은 부분 집합이고 (가) 스칼라이고 , 이(가) 벡터인 경우

이는 다음을 함축한다.

다음의 역예는 인 선형 이형성 :H 대한 ( ( ), A( ) ( (). (A A A Endow with the dot product, let and for every real let be the line of slope s은(는) 원점을 통해 )= s + (,s). }}.( Pick a real number and define by (so this map scales the coordinate by while leaving the 좌표 변경되지 않음).그러면 : → R A^2= L / r {\L_{를 만족하는 변환불능 연속 선형 연산자다. 0)= 0 ( ), A( x )= s 2 + 2 (, ) and 따라서 with and if then

참고 항목

메모들

  1. ^ 왜냐하면 규범 : : is continuous, if converges in then necessarily converges in But in general, the converse is보증되지 않은However, under this theorem's hypotheses, knowing that in is sufficient to conclude that converges in
  2. ^ 명시적으로, 이{\displaystyle \epsilon>0}일부 정수 N을 존재하는 그;0어떤 ϵ 을 지정된다는 것을 의미하 0{\displaystyle N>0}그런"그 양"은≤ϵ{\displaystyle \,\leq \epsilon} 때마다 m, n≥ N.{\displaystyle m,n\geq N.}여기,"그 양" 있는 것은 불평등의 오른쪽 편. 2‖ cm and later in the proof, "the quantity" will also refer to and then By definition of "Cauchy sequence," is Cauchy in if and only if "the quantity" satisfies this aforementioned condition.
  3. ^ Technically, means that the addition map defined by is a surjective linear isomorphism and homeomorphism.자세한 내용은 보완된 하위 영역에 대한 기사를 참조하십시오.

참조

  1. ^ Petersen, Kaare. "The Matrix Cookbook" (PDF). Retrieved 9 January 2021.
  2. ^ 루딘 1991, 페이지 306–309.
  3. ^ 루딘 1991 페이지 307-309.

참고 문헌 목록