라그랑주 승수

수학적 최적화에서 라그랑주 승수의 방법은 동일 제약조건을 따르는 함수의 국부적 최대값과 최소값을 찾는 전략이다(즉, 변수의 선택된 값으로 하나 이상의 방정식을 정확히 만족시켜야 하는 조건의 대상).^[1] 수학자 조셉 루이스 라그랑주의 이름을 따서 지은 것이다. 기본적인 생각은 제약이 없는 문제를 제약이 없는 문제의 파생상품 시험이 여전히 적용될 수 있는 형태로 전환하는 것이다. 함수의 구배와 제약조건의 구배 사이의 관계는 오히려 자연스레 라그랑지안 함수로 알려진 원래의 문제의 개편으로 이어진다.^[2]

방법은 다음과 같이 요약할 수 있다: $동일{\displaystyle }$ 구속조건 g${\displaystyle }$( x${\displaystyle }$)${\displaystyle }$= ${\displaystyle 0}$ ${\displaystyle g(x)=0}$에$$따른$$ $함수{\displaystyle }$ f${\displaystyle }$( ${\displaystyle x}$) ${\displaystyle f(x)}$의 최대 또는 최소값을 찾기 위해 라그랑지안 함수를 형성한다.

${\displaystyle {\mathcal{L}(x,\lambda )=f(x)-\lambda g(x)}$

그리고}}x{\displaystyle)}의 함수와 라그랑주 승수 법λ{\lambda\displaystyle}은 identifi 수 있는 Lagrangianfunction,[4][5]의 .[3] 해결책은 원래 constrained 최적화에 해당하는은 항상 안장점으로 간주되고 나는{\displaystyle{{나는\mathcal}의 고정 포인트를 찾다.중 교육 경계 ^[6]헤시안 행렬의 정의에서 정지점

이 방법의 큰 장점은 제약조건 측면에서 명시적인 매개변수화 없이 최적화를 해결할 수 있다는 점이다. 그 결과, 도전적인 제약이 있는 최적화 문제를 해결하기 위해 라그랑주 승수의 방법이 널리 이용되고 있다. 또한 라그랑주 승수의 방법은 카루시-쿤-터커 조건에 의해 일반화되는데, ${\displaystyle 이}$는 $h{\displaystyle }$( ${\displaystyle x\mathbf{}}$) ${\displaystyle \le }$ c ${\displaystyle h(\mathbf {x} )\leq c}$ 형식의 불평등 제약조건도 고려할 수 있다$.$

성명서

다음은 라그랑주 승수 정리라고 알려져 있다.^[7]

Let ${\displaystyle f\colon \mathbb {R} ^{n}\rightarrow \mathbb {R} }$ be the objective function, ${\displaystyle g\colon \mathbb {R} ^{n}\rightarrow \mathbb {R} ^{c}}$ be the constraints function, both belonging to ${\displaystyle C^{1}}$ (that is, having continuous first derivs. $∗{\$의 g ) = < {\$displaystyle Dg(x^{*}=c<n$ :)와 같은 최적화 문제에 대한 최적의 해결책이 되게$$ 하라.

${\displaystyle {\text}\f(x)}$

${\displaystyle {\text{data:}}\ g(x)=0}$

(여기서 $D{\displaystyle }$ ${\displaystyle g}$( ${\displaystyle {}^{}}$ ) ${\displaystyle Dg(x^{*})$는 부분파생상품의 행렬을 나타내며$$$,{\displaystyle }$ [${\displaystyle \frac{\mathrm{}}{}}$∂${\displaystyle \frac{{}_{}}{}}$ ${\displaystyle \frac{j_{}}{}}$ ${\displaystyle \frac{{}_{}}{\mathrm{}}}$ x ${\displaystyle \frac{k_{}}{}}$ ${\displaystyle \frac{{}_{}}{}}$ ${\$ x_$}}}\rig}}}}$

Then there exist unique Lagrange multipliers ${\displaystyle \lambda ^{*}\in \mathbb {R} ^{c}}$ such that ${\displaystyle Df(x^{*})=\lambda ^{*T}Dg(x^{*})}$.

라그랑주 승수 정리는 동일 제약조건에 따라 평가된 함수의 국부 최대치(또는 최소치)에서 제약조건 적격성이 적용되는 경우(아래에 설명됨) 함수 구배를 라그랑주(그 지점에서)와 함께 제약조건의 구배(그 지점에서)의 선형 결합으로 표현할 수 있다고 기술하고 있다. 계수의 역할을 하는 ^[8]배수 이는 제약조건의 모든 구배와 직각인 어떤 방향도 함수의 구배와 직각이라고 말하는 것과 같다. 또는 함수의 방향성 파생상품이 모든 실현 가능한 방향에서 0이라고 말하는 것도 그렇다.

단일 구속조건

(그림 1에 예시된 바와 같이) 하나의 제약 조건과 두 개의 선택 변수만 있는 경우에는 최적화 문제를 고려하십시오.

${\displaystyle {\text{y}\f(x,y)}$

${\displaystyle {\text{data:}}\g(x,y)=0}$

(때로는 $g{\displaystyle }$ ${\displaystyle g}$에 포함되지 않고 첨가 상수가 별도로 표시되기도 하는데$,$ 이 경우 제약조건은 그림 1과 같이 $g{\displaystyle (x}$, ${\displaystyle y}$)${\displaystyle }$= ${\displaystyle c}$ ${\displaystyle g(x,y)=c$라고 기록된다.) $우리$는 f ${\displaystyle f}$과 $g{\displaystyle }$ ${\displaystyle g}$이(가) 연속적인 첫 번째 부분파생상품을 가지고$$ 있다고 가정한다. ${\displaystyle }$ 변수(range ${\displaystyle \lambda }$)를 Lagrange 승수(또는 Lagrange 미결정 승수)라고 소개하고, Lagrange 함수(또는 Lagrangian 또는 Lagrangian 표현식)를 연구한다.

${\displaystyle {\mathcal{L}(x,y,\lambda )=f(x,y)-\lambda g(x,y),}$

여기서 $\lambda {\displaystyle }$ ${\displaystyle \lambda }$ 용어를$$ 추가하거나 뺄 수 있다. If ${\displaystyle f(x_{0},y_{0})}$ is a maximum of ${\displaystyle f(x,y)}$ for the original constrained problem and ${\displaystyle \nabla g(x_{0},y_{0})\neq 0}$, then there exists ${\displaystyle \lambda _{0}}$ such that (${\displaystyle x_0,y_0,{\lambda }_{}}$${\displaystyle 0_{}}$ ${\$는 라그랑주함수의 정지점(역소점은 $L{\displaystyle \mathcal{}}$ ${\$의 첫 부분파생상품이 0인$$ 지점이다. 가정 $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle g}$ ${\displaystyle \ne }$ ${\displaystyle 0}$ ${\displaystyle \nabla g\neq 0}$을(를) 제약 조건 검증이라고 한다$$. 그러나 라그랑주 승수의 방법은 제한된 문제에서 최적화에 필요한 조건만 산출하기 때문에 모든 정지 지점이 원래 문제의 해답을 산출하는 것은 아니다.^{[9][10][11][12][13]} 최소 또는 최대를 위한 충분한 조건도 존재하지만, 특정 후보 솔루션이 충분한 조건을 만족하는 경우, 해당 솔루션이 국지적으로 가장 우수하다는 것, 즉 허용 가능한 인근 지점보다 우수하다는 것만이 보장된다. 글로벌 최적값은 필요한 조건과 국소적으로 충분한 조건을 만족하는 지점에서 원래 목표 함수의 값을 비교함으로써 찾을 수 있다.

라그랑주 승수의 방법은 최대, 최대, f(x, y)가 g = 0을 가지는 어떤 주변 지점의 방향으로도 증가할 수 없다는 직관에 의존한다. 만약 그렇다면, 우리는 g = 0을 따라 걸을 수 있는데, 이는 출발점이 실제로 최대가 아니라는 것을 의미한다. 이러한 방식으로 보면, 제약되지 않는 함수의 파생상품이 0인지, 즉 방향파생상품이 관련(존재하는) 방향에서 0인지 여부를 시험하는 것과 정확히 유사하다.

d의 다양한 값에 대해 f(x, y) = d로 주어진 f의 등고선과 g(x, y) = c로 주어진 g의 등고선을 시각화할 수 있다.

g = c를 사용하여 등고선을 따라 걷는다고 가정합시다. 우리는 f가 우리가 걸을 때 거의 변하지 않는 지점들을 찾는 데 관심이 있다. 왜냐하면 이 지점들은 최대치일 수 있기 때문이다.

이런 일이 일어날 수 있는 두 가지 방법이 있다.

1. 정의상 f는 등고선을 따라 걸을 때 변하지 않기 때문에 f의 등고선을 터치할 수 있다. 이것은 f와 g의 등고선에 대한 접선이 여기서 평행하다는 것을 의미할 것이다.
2. 우리는 f의 "수준" 부분에 도달했는데, 이는 f가 어떤 방향으로도 변하지 않는다는 것을 의미한다.

첫 번째 가능성(f의 등고선을 터치하는 경우)을 확인하려면 함수의 기울기가 등고선과 수직이기 때문에 f와 g의 등고선에 대한 접선은 f와 g의 등고선의 기울기가 평행한 경우에만 평행하다는 점에 유의하십시오. 따라서 g(x, y) = c 및

${\displaystyle \nabla _{x,y}f=\lambda \,\nabla _{x,y}g,}$

일부 $\lambda {\displaystyle }$ ${\displaystyle \lambda }$에 대해

어디에

${\displaystyle \x,y}f=\leftf}{\fract f}{\fract f}{\fract y}}{x,y}g=\frac}{\fract g}{\fract g}{\fract\immet y}}}}}{\frac {nowed y}}}}}}}}}}}}}}}}}}}}}{\frapprig 오른쪽).$

각각의 그라데이션이다. 두 개의 그라데이션 벡터가 평행하지만 일반적으로 그라데이션 벡터의 크기가 같지 않기 때문에 상수 $\lambda {\displaystyle }$ ${\displaystyle \lambda }$이(가) 필요하다$$. 이 상수를 라그랑주 승수라고 한다. (일부 협약에서 $\lambda {\displaystyle }$ ${\displaystyle \lambda }$은(는) 마이너스 기호가 선행된다$$.

이 방법은 두 번째 가능성도 해결한다는 점에 유의하십시오. f가 수평이면 f의 그라데이션이 0이며, $\lambda {\displaystyle }$= ${\displaystyle 0}$ ${\displaystyle \lambda =0}$을(를) 설정하는 것은$$ $\nabla {\displaystyle {\mathrm{}}_{}}$ ${\displaystyle x_{}}$, ${\displaystyle {}_{}}$ g$${\$displaystyle \nabla _{x,y}g$}g$\}$에 관계없이 해결책이다.

이러한 조건을 하나의 방정식으로 통합하기 위해, 우리는 보조함수를 도입한다.

${\displaystyle {\mathcal{L}(x,y,\lambda )=f(x,y)-\lambda g(x,y),}$

그리고 해결하다

${\displaystyle \nabla _{x,y,\lambda }{\mathcal{L}(x,y,\lambda )=0.}$

이는 세 개의 미지의 방정식을 푸는 것과 같다는 점에 유의한다. 이것이 라그랑주 승수의 방법이다.

Note that ${\displaystyle \nabla _{\lambda }{\mathcal {L}}(x,y,\lambda )=0}$ implies ${\displaystyle g(x,y)=0}$, as the partial derivative of ${\displaystyle {\mathcal {L}}}$ with respect to ${\displaystyle \lambda }$ is ${\displaystyle -g(x,y)}$, which는 $g{\displaystyle }$ (${\displaystyle x}$, y${\displaystyle }$)${\displaystyle }$= ${\displaystyle 0}$ ${\displaystyle g(x,y)=0}$인 경우에만 분명히 0이다$.$

요약하면

${\displaystyle \nabla _{x,y,\lambda }{\mathcal {L}}(x,y,\lambda )=0\iff {\begin{cases}\nabla _{x,y}f(x,y)=\lambda \,\nabla _{x,y}g(x,y)\\g(x,y)=0\end{cases}}}$

$메소드$가 n$${\$displaystyle$n} 변수의$$ 함수에 쉽게 일반화됨

${\displaystyle \nabla _{x_{1},\dots,x_{n},\lambda }{{}{\mathcal {L}}(x_{1},\dots,x_{n},\lambda )=0}$

n + 1 미지의 n + 1 방정식을 푸는 것과 같다.

f의 제약된 극단값은 Lagrangian $L{\displaystyle \mathcal{}}$ ${\$의 임계점이지만 반드시 $L{\displaystyle \mathcal{}}$ ${\$의 국부 극단인 것은 아니다($$아래 예 2 참조).

누군가는 라그랑지안을 해밀턴인으로 개조할 수 있는데, 이 경우 해밀턴인에 대한 해결책은 지역적 미니마(minimple is local minima for the Hamiltonian. 이것은 폰트랴긴의 최소 원리의 형태로 최적의 제어 이론에서 이루어진다.

라그랑지안의 해법이 반드시 극단적이지 않다는 사실 또한 수치 최적화에 어려움을 제기한다. 이는 수치 최적화 사례에서 나타낸 것과 같이 규모 0은 반드시 국소 최소값이기 때문에 구배 크기를 계산하여 해결할 수 있다.

다중 제약 조건

라그랑주 승수법을 확장해 유사한 주장을 사용해 복수의 제약조건으로 문제를 해결할 수 있다. 한 점에서 교차하는 두 개의 선 구속조건에 따른 파라볼로이드를 고려한다. 유일한 실현 가능한 해결책으로서, 이 점은 분명히 제약된 극단이다. 그러나 $f{\displaystyle }$ ${\displaystyle f}$의 수준 집합은 교차로 지점의 어느 제약조건과도 분명히 평행하지 않다$$(그림 3 참조). 대신 두 제약조건의 구배를 선형적으로 조합한 것이다. 다중 제약조건의 경우, 그것이 우리가 일반적으로 추구하는 것이 될 것이다: 라그랑주의 방법은 $f{\displaystyle }$ ${\displaystyle f}$의 구배가 반드시 단일 제약조건의 구배에서 배수가 아니라$$ 모든 제약조건의 구배에서 선형 결합되는 지점을 찾는다.

Concretely, suppose we have ${\displaystyle M}$ constraints and are walking along the set of points satisfying ${\displaystyle g_{i}(\mathbf {x} )=0,i=1,\dots ,M}$. Every point ${\displaystyle \mathbf {x} }$ on the contour of a given constraint function ${\displaystyle g_{i}}$$$ 허용 가능한 방향의 공간이 있다: $:{\displaystyle \mathrm{}}$ ${\displaystyle g_{}}$ i${\displaystyle {}_{}}$( ${\displaystyle x\mathbf{}}$) ${\displaystyle \nabla g_{i}(\mathbf {x} )}$에 수직인 벡터 공간$.$ 모든 제약조건에 의해 허용되는 방향 집합은 따라서 모든 제약조건의 구배에 수직인 방향의 공간이다. $이{\displaystyle }$ 공간은 A ${\displaystyle A}$이(가) 허용 가능한 이동이고, $제약$ ${\displaystyle {}^{}}$의 구배 범위는 S${\displaystyle {}^{}}$${\$$displaystyle$ $S}$이$($가) S ${\displaystyle S}$의 모든 요소에 수직인 벡터 공간$.$

우리는 여전히 $우리$가 걸을 때 f {\$displaystyle f}$이(가) 변하지 않는 지점을$$ 찾는 데 관심이 있는데, 이 지점들은 극단적일 수 있기 때문이다$.$ 따라서 $x{\displaystyle \mathbf{}}$ ${\$$mathbf$${x}$에서 벗어나는 모든 허용 가능한 이동 방향이 $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle f(x\mathbf{}}$ $){\displaystyle \$$mathbf$${x}}$에 수직이$$$$ $되도록{\displaystyle \mathbf{}}$ x$${\displaystyle \$mathbf$ {x$}}$을(또는 해당 허용 가능한 방향으로 이동하여$$ $f{\displaystyle }$ ${\displaysty$ f$})$를 늘릴 수 있다.$$ 즉, $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle f}$( ${\displaystyle x\mathbf{}}$) ${\displaystyle {\in }^{}}$= ${\displaystyle {}^{}}$ ${\displaystyle \nabla$ f$(\mathbf {x})\in$ A$^{\$${\displaystyle {perp\mathrm{}}_{}}$ $}=S$ 따라서 스칼라 ${\displaystyle {\lambda 1\mathrm{}}_{}}$,${\displaystyle {}_{}{}_{}}$ 2${\displaystyle {}_{}}$,${\displaystyle }$. . .${\displaystyle m_{}}$ M$${\$displaysty \lambda _${1$},\lambda },$ }, }, {da {da {da }, ....}, {?$\lambda _{M}$ 그런$$ 것.

${\displaystyle \nabla f(\mathbf {x} )=\sum _{k=1}^{M}\lambda _{k}\,\nabla g_{k}(\mathbf {x} )\quad \iff \quad \nabla f(\mathbf {x} )-\sum _{k=1}^{M}{\lambda _{k}\nabla g_{k}(\mathbf {x} )}=0.}$

이 스칼라들은 라그랑주 승수들이다. $우리$는 이제 모든 제약조건에 대한 $M$을 가지고 있다$.$

이전과 같이, 우리는 보조 기능을 도입한다.

${\displaystyle {\mathcal {L}}\left(x_{1},\ldots ,x_{n},\lambda _{1},\ldots ,\lambda _{M}\right)=f\left(x_{1},\ldots ,x_{n}\right)-\sum \limits _{k=1}^{M}{\lambda _{k}g_{k}\left(x_{1},\ldots ,x_{n}\right)}}$

그리고 해결하다

${\displaystyle \nabla _{x_{1},\ldots ,x_{n},\lambda _{1},\ldots ,\lambda _{M}}{\mathcal {L}}(x_{1},\ldots ,x_{n},\lambda _{1},\ldots ,\lambda _{M})=0\iff {\begin{cases}\nabla f(\mathbf {x} )-\sum _{k=1}^{M}{\lambda _{k}\,\nabla g_{k}(\mathbf {x} )}=0\\g_{1}(\mathbf {x} )=\cdots =g_{M}(\mathbf {x} )=0\end{cases}}}$

$n{\displaystyle }$+ ${\displaystyle M}$ ${\displaystyle n+$$M}$ 미지수의${\displaystyle }$n + M$${\$displaystyle$n+M} 방정식$$ 해결에 해당한다.

여러 제약조건이 있을 때 제약조건 적격성 가정은 해당 지점의 제약조건 구배가 선형적으로 독립적이라는 것이다.

다양성 다지관을 통한 현대적 제형

제약의 대상이 되는 국부 맥시마와 미니마를 찾는 문제는 다른 다지관 $M{\displaystyle }$ ${\displaystyle M}$에서 국부 맥시마와 미니마를 찾는 것으로 일반화할 수 있다$.$^[14] 그 뒤에 M ${\displaystyle M}$이($가{\displaystyle }$) 유클리드 공간일$$ 필요도, 심지어는 리만 다지관일 필요도 없다. 경사도 $∇{\displaystyle \nabla}$의 모든 모양($$리만 메트릭의 선택에 따라 다름)은 외부 파생 $모델{\displaystyle }$ d ${\displaystyle d}$로 대체할 수 있다$.$

단일 구속조건

$M{\displaystyle }$ ${\displaystyle M}$을(를) 차원 $m{\displaystyle }$ ${\displaystyle m}$의 부드러운$$ 다지관으로 한다$$$.$ 부드러운 $함수{\displaystyle }$ $f{\displaystyle }$${\displaystyle }$: ${\displaystyle M\mathbb{}}$→ R ${\$${\displaystyle \mathrm{g<img\; alt="\{\backslash displaystyle\; f:M\backslash to\; \backslash mathbb\; \{R\}\; \}"\; aria-hidden="true"\; class="mwe-math-fallback-image-inline"\; src="https://wikimedia.org/api/rest\_v1/media/math/render/svg/3f7c129dfb3446a2251aabc1cb3eba0b13ee7b21"\; style="vertical-align:\; -0.671ex;\; width:10.95ex;\; height:2.509ex;">}}$( ${\displaystyle x}$)${\displaystyle }$= ${\displaystyle 0,}$ ${\displaystyle g(x$)=0, {\displaystyle g(x$)=0$${\displaystyle ,\}(}$여기서$$$$ $g{\displaystyle }$$$: M → R${\$$displaystyle g:$$M\to \mathb {R}}$은(는) 0이 정규 값인 부드러운 함수다$$.

$d{\displaystyle }$ ${\displaystyle f}$ ${\displaystyle df}$ 및 $d$ ${\displaystyle g}$ ${\displaystyle dg}$을(를) 외부 파생 모델로 두십시오$$. Stationarity for the restriction ${\displaystyle f _{N}}$ at ${\displaystyle x\in N}$ means ${\displaystyle d(f _{N})_{x}=0.}$ Equivalently, the kernel ${\displaystyle \ker(df_{x})}$ contains ${\displaystyle T_{x}N=\ker$$(dg_{x}).$$}}$ 다시$$ $말하면{\displaystyle }$ d ${\displaystyle x_{}}$ ${\$ d ${\displaystyle {}_{}}$ ${\displaystyle x_{}}$ ${\$는 비례 1형식이다$$. 이를 위해 $다음$과${\displaystyle }$같은 m${\displaystyle (\mathrm{m}}$-${\displaystyle }$1 ) / ${\displaystyle 2\mathrm{}}$ ${\displaystyle$ m$(m-1)/2}$ 방정식의$$ 시스템이 다음을 지탱할 필요가 있고 충분하다.

${\displaystyle df_{x}\wedge dg_{x}=0\in \Lambda ^{2}(T_{x}^{*M)}}$

여기서 $\wedge {\displaystyle }$ ${\displaystyle \wedge}$은(는) 외부 제품을 의미한다$$. 정지점 $x{\displaystyle }$ ${\displaystyle x}$는 위의 ${\displaystyle \mathrm{방정식}}$ 시스템에 $제약조건{\displaystyle }$ g${\displaystyle (}$ x${\displaystyle }$) = ${\displaystyle 0.}${\$displaystyle$ g$(x)=0.}$에 대한 해법이다$$. 1$$ ${\displaystyle 2m(m}$- ${\displaystyle 1)}$ ${\displaystyle$ {1$}{1}{2$}}$m(m-1)$방정식의$$ 왼쪽이 하위 변수에 속하므로 방정식이 독립적이지 않다. ${\displaystyle {\mathrm{\lambda }}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$(${\displaystyle T_{}^{}}$ x ${\displaystyle {}_{}^{}}$ ${\displaystyle {}_{}^{}}$) ${\displaystyle \Lambda ^{2}(T_{x}^{*}M)}$ 분해 가능한 원소로 구성된다$$.

이 공식에서는 d ${\displaystyle x_{}}$= ${\displaystyle \lambda }$ ${\displaystyle d}$ ${\displaystyle g_{}}$. ${\ddplaystyle df_{x}=\lambda$$\,$$dg_{x}$와 같은$$ 숫자 $\lambda {\displaystyle }$ ${\displaystyle \lambda$ \,{x}인 라그랑주 승수를 명시적으로 찾을 필요가 없다.$}$

다중 제약 조건

$단일{\displaystyle }$ 제약 조건의 $경우$ M {\$displaystyle$ M$}$ 및 f {\$displaystyle$ f$}$을(를$)$ 위의 섹션과 같이 두십시오$$. 여기서 설명한$$ 함수 $g{\displaystyle }$ ${\displaystyle g}$보다는 이제 부드러운 함수 : → (> 1), ${\displaystyle G:$구성 요소 함수가 $g{\displaystyle {}_{}}$: ${\displaystyle I}$→ ${\displaystyle R\mathbb{}}$, ${\displaystyle g_{i}$인 $M\to \mathb {R} ^{p}(p>1):$$M\to \mathb {R},$ 이 경우$$ $0{\displaystyle \mathrm{}}$ ${\displaystyle \in }$ ${\displaystyle {\mathbb{}}^{}}$ ${\displaystyle {}^{}}$ ${\$은(는) 정규 값이다. $N{\displaystyle }$ ${\displaystyle N}$을(를) $G{\displaystyle }$( x${\displaystyle }$)${\displaystyle }$= ${\displaystyle 0.}$ ${\displaystyle G(x)=0$으로 정의된$$ $M{\displaystyle }$ ${\displaystyle M}$의 하위 관리자로 두십시오$$$.$$}$

${\displaystyle x}$ is a stationary point of ${\displaystyle f _{N}}$ if and only if ${\displaystyle \ker(df_{x})}$ contains ${\displaystyle \ker(dG_{x})}$. For convenience let ${\displaystyle L_{x}=df_{x}}$ and ${\disp$$레이스타일$ $K_{x}=dG_{x}},$ 여기서 d ${\displaystyle G}$ ${\displaystyle dG}$는 접선 지도 또는 Jacobian T ${\displaystyle M}$ → ${\displaystyle T}$ ${\displaystyle {}^{}}$ ${\displaystyle TM\to T\mathb {R} ^{p}.$$}$ The subspace ${\displaystyle \ker(K_{x})}$ has dimension smaller than that of ${\displaystyle \ker(L_{x})}$, namely ${\displaystyle \dim(\ker(L_{x}))=n-1}$ and ${\displaystyle \dim(\ker(K_{x}))=n-p.}$ ${\displaystyle \ker (}$${\displaystyle \ker(K_{x})}$ belongs to ${\displaystyle \ker(L_{x})}$ if and only if ${\displaystyle L_{x}\in T_{x}^{*}M}$ belongs to the image of ${\displaystyle K_{x}^{*}:\mathbb {R} ^{p*}\to T_{x}^{*}M.}$ Computationally speaking, 조건은 $L{\displaystyle {}_{}}$ ${\displaystyle x_{}}$ ${\$이(가) $K{\displaystyle {}_{}^{}}$${\displaystyle {}_{}}$x ,$${\$displaystyle K_{x}}}$ 행렬의 행 공간에$$ 속하거나$$ ${\displaystyle K_{}^{}}$ x${\displaystyle {}_{}^{}}${$${\$displaystyle K_{x}^*}}}}}($전치)의 행렬의 열 공간에 동등하게 속한다는 것이다. If ${\displaystyle \omega _{x}\in \Lambda ^{p}(T_{x}^{*}M)}$ denotes the exterior product of the columns of the matrix of ${\displaystyle K_{x}^{*},}$ the stationary condition for ${\displaystyle f _{N}}$ at ${\displaystyle x}$ becomes

${\displaystyle L_{x}\웨지 \omega _{x}=0\in \Lambda ^{p+1}\왼쪽(T_{x}^{*}M\right)}}$

다시 한 번, 이 공식에서 라그랑주 승수, ${\displaystyle {숫자}_{}}$ ${\displaystyle {}_{}}$1${\displaystyle {}_{}}$, …, {$$p {\$displaystyle \lambda _{$1},\$lambda _{p$}를$$ 명시적으로 찾을 필요는 없다.

${\displaystyle df_{x}=\sum _{i=1}^{p}\poda _{i}d(g_{i})_{x}}}$

라그랑주 승수의 해석

종종 라그랑주 승수는 어느 정도의 관심사로 해석된다. 예를 들어, 제약 조건의 등고선(Lagrangian 식)을 파라메트업하여

${\displaystyle {\begin{aligned}&{\mathcal {L}}(x_{1},x_{2},\ldots ;\lambda _{1},\lambda _{2},\ldots ;c_{1},c_{2},\ldots )\\[4pt]={}&f(x_{1},x_{2},\ldots )+\lambda _{1}(c_{1}-g_{1}(x_{1},x_{2},\ldots ))+\lambda _{2}(c_{2}-g_{2}(x_{1},x_{2},\dots ))+\cdots \end{aligned}}}$

그때

${\displaystyle {\frac {\partial {\mathcal{L}}{\partial c_{k}}=\lambda _{k}.}$

따라서 λ은_k 제약 파라미터의 함수로 최적화되고 있는 수량의 변화율이다. 예를 들어, 라그랑기 역학에서 운동 방정식은 운동 에너지와 전위 에너지의 차이의 시간 적분인 작용의 정지 지점을 발견함으로써 도출된다. 따라서 스칼라 전위로 인한 입자의 힘 F = - -V는 입자의 제한된 궤적 변화에 따른 작용 변화(운동 에너지로의 전위 전달)를 결정하는 라그랑주 승수로 해석할 수 있다. 제어 이론에서 이것은 비용 방정식으로 대신 공식화된다.

더욱이, 외피 정리에 의해 라그랑주 승수의 최적값은 원래의 목적함수의 최적 달성가능가치에 대한 해당 제약조건 상수의 한계효과로 해석된다: 만약 우리가 별표를 사용하여 최적값을 나타낸다면, 그것은 다음과 같이 보여질 수 있다.

${\dapplaystyle {\frac {{d}f(x_{1}:{1}^{*}(c_{1}{1},\c_{2},\filename }){*}(c_{1},c_{2},\c}}{d}}}}={k}^{k}^}.}$

예를 들어, 경제학에서 하는 선수에게 최적의 이익 행위의 목적 함수의 최적 값에서 주어진 제약 조건(수입이 변화를 통해 예를 들어)의 완화로 인해가 라그랑주 승수가 변하고(이익)제한된 공간;이런 맥락에서 규제의 λk*은 한계 비용에 의거 계산한다.t, 그리고 그림자 가격이라고 불린다.^[15]

충분한 조건

제한된 국소 최대값 또는 최소값에 대한 충분한 조건은 라그랑지식 표현식의 두 번째 파생상품의 경계 헤시안 행렬에 대한 주요 미성년자(좌측 정당화 하위 행렬의 결정)의 순서에 따라 명시될 수 있다.^[6][16]

예

예 1

예제 1a

${\displaystyle {제한조건\mathrm{}}^{}}$x ${\displaystyle {2\mathrm{}}^{}}$+ ${\displaystyle {}^{}}$ =${\displaystyle }$x$$+ ${\displaystyle y}$ {\$displaystyle f($x,y)=x$$$+y}$을(를${\displaystyle )}$ 최대화한다고 ${\displaystyle \mathrm{가정}}$합시다${\displaystyle .}$ x$$2 + y = 1 {\$displaystyle x^{2}+y^{2}=$1$\}.$ The feasible set is the unit circle, and the level sets of f are diagonal lines (with slope −1), so we can see graphically that the maximum occurs at ${\displaystyle \left({\tfrac {1}{\sqrt {2}}},{\tfrac {1}{\sqrt {2}}}\right)}$, and that the minimum occurs at ${\di$$splaystyle \left(-{\tfrac{1}{\tfrrt{2}}:},-{\tfrac {1}{\sqrt{2}}\오른쪽)}$.

라그랑주 승수법의 경우 제약조건은 다음과 같다.

${\displaystyle g(x,y)=x^{2}+y^{2}-1=0,}$

이 때문에

${\displaystyle {\begin{aigned}{\mathcal {L}}(x,y,\lambda )&=f(x,y)+\\lambda \cdot g(x,y)\[4pt]&=x+y+\lambda(x^{2}-1)-1)이다.\end{정렬}}}$

$g{\displaystyle }$( ${\displaystyle x}$, ${\displaystyle y}$ ) ${\displaystyle g$, ${\displaystyle y}$) {\displaystyle g($x,y)}$을(를) $0{\displaystyle \mathrm{}}$ ${\displaystyle 0}($으)로 설정할$$ 때 $f{\displaystyle }$( ${\displaystyle x}$ ,${\displaystyle }$y )$${\$displaystyle$f($x,y)}$에 해당하는 함수$.$

이제 구배를 계산할 수 있다.

${\displaystyle {\begin{aligned}\nabla _{x,y,\lambda }{\mathcal {L}}(x,y,\lambda )&=\left({\frac {\partial {\mathcal {L}}}{\partial x}},{\frac {\partial {\mathcal {L}}}{\partial y}},{\frac {\partial {\mathcal {L}}}{\partial \lambda }}\right)\\[4pt]&=\left(1+2\lambda x,1+2\lambda y,x^{2}+y^{2}-1\right)\end{aligned}}}$

따라서 다음과 같다.

${\displaystyle \nabla _{x,y,\lambda }{\mathcal {L}}(x,y,\lambda )=0\quad \Leftrightarrow \quad {\begin{cases}1+2\lambda x=0\\1+2\lambda y=0\\x^{2}+y^{2}-1=0\end{cases}}}$

마지막 방정식이 원래 제약 조건이라는 점에 유의하십시오.

처음 두 방정식은 항복한다.

${\displaystyle x=y=-{\frac {1}{2\fla }},\qquad \ \da \neq 0.}$

마지막 방정식으로 대체하면 다음과 같다.

${\displaystyle {\frac {1}{4\fracda ^{2}}+{\frac {1}{4\fracda ^{2}}-1=0,}$

그렇게

${\displaystyle \lambda =\pm {\frac {1}{\sqrt {2}}},}$

즉, $L{\displaystyle \mathcal{}}$ ${\$의 정지 지점이$$

${\displaystyle \left({\tfrac {\sqrt {2}}{2}},{\tfrac {\sqrt {2}}{2}},-{\tfrac {1}{\sqrt {2}}}\right),\qquad \left(-{\tfrac {\sqrt {2}}{2}},-{\tfrac {\sqrt {2}}{2}},{\tfrac {1}{\sqrt {2}}}\right).}$

이러한 지점에서 목표 함수 f를 평가

${\displaystyle f\left({\tfrac {\sqrt {2}}{2}},{\tfrac {\sqrt {2}}{2}}\right)={\sqrt {2}},\qquad f\left(-{\tfrac {\sqrt {2}}{2}},-{\tfrac {\sqrt {2}}{2}}\right)=-{\sqrt {2}}.}$

따라서 제약된 최대값은 $2{\displaystyle \sqrt{\mathrm{}}}$ ${\$이고 제약된 최소값은${\displaystyle }$- 2 ${\$

예시 1b

Now we modify the objective function of Example 1a so that we minimize ${\displaystyle f(x,y)=(x+y)^{2}}$ instead of ${\displaystyle f(x,y)=x+y,}$ again along the circle ${\displaystyle g(x,y)=x^{2}+y^{2}-1=0}$. Now the level sets of ${\displaystyle f}$${\displaystyle f}$ are still lines of slope −1, and the points on the circle tangent to these level sets are again ${\displaystyle ({\sqrt {2}}/2,{\sqrt {2}}/2)}$ and ${\displaystyle (-{\sqrt {2}}/2,-{\sqrt {2}}/2)}$. 이러한 접선점은 $f{\displaystyle }$ ${\displaystyle f}$의 최대치 입니다$.$

On the other hand, the minima occur on the level set for ${\displaystyle f}$ = 0 (since by its construction ${\displaystyle f}$ cannot take negative values), at ${\displaystyle ({\sqrt {2}}/2,-{\sqrt {2}}/2)}$ and ${\displaystyle (-{\sqrt {2}}/2,{\sqrt {2}}/2$$f{\displaystyle }$ ${\displaystyle f}$의 수준 곡선이 제약 조건에 접하지 않는$$ 경우$.$ $\nabla {\displaystyle \mathrm{}}$ ${\displaystyle f}$= ${\displaystyle \lambda }$ ${\displaystyle \nabla \mathrm{}}$ ${\displaystyle g}$ ${\displaystyle \nabla f=\lambda \,\nabla g}$이(가) 네 점을 모두 극단값으로 올바르게$$ 식별한다는 조건. minima는 특히 $\lambda {\displaystyle }$= ${\displaystyle 0.}$ ${\displaysty \lambda=0$으로 특징지어진다$.$$}$

예 2

이 예는 더욱 격렬한 계산을 다루지만, 여전히 하나의 제약조건 문제일 뿐이다.

최대값의 값을 찾기를 원한다고 가정해 보십시오.

${\displaystyle f(x,y)=x^{2}y}$

$x{\displaystyle }$$$ ${\displaystyle x}$- 및 $y{\displaystyle }${\$displaystyle y}$ - 좌표가 $반지름{\displaystyle \sqrt{\mathrm{}}}$3 {\$displaystyle {\sqrt{3$}}을(를) 가진 원점 주위의 원 위에 놓여 있다는 조건$.$ 즉, 제약 조건에 따르게 된다.

${\displaystyle g(x,y)=x^{2}+y^{2}-3=0.}$

단지 하나의 제약조건이 있기 때문에, $\lambda {\displaystyle }$ ${\displaystyle \lambda$}라고 하는 하나의 승수가 있다$.$

The constraint ${\displaystyle g(x,y)}$ is identically zero on the circle of radius ${\displaystyle {\sqrt {3}}}$. Any multiple of ${\displaystyle g(x,y)}$ may be added to ${\displaystyle g(x,y)}$ leaving ${\displaystyle g(x,y)}$ unchanged in the region of interest (본래의 제약조건이 충족되는 원 위).

일반 라그랑주 승수법 적용

${\displaystyle {\begin{aigned}{\mathcal {L}}(x,y,\lambda )&=f(x,y)+\lambda \cdot g(x,y)\&=x^{2}+lambda(x^{2}-3)\end{정렬}}}$

구배 값을 계산할 수 있는 위치:

${\displaystyle {\begin{aligned}\nabla _{x,y,\lambda }{\mathcal {L}}(x,y,\lambda )&=\left({\frac {\partial {\mathcal {L}}}{\partial x}},{\frac {\partial {\mathcal {L}}}{\partial y}},{\frac {\partial {\mathcal {L}}}{\partial \lambda }}\right)\\&=\left(2xy+2\ftda x,x^{2}+2\x^ y,x^{2}+y^{2}-3\right)\end{정렬}}}$

따라서 다음과 같다.

${\displaystyle \nabla _{x,y,\lambda }{\mathcal {L}}(x,y,\lambda )=0\quad \iff \quad {\begin{cases}2xy+2\lambda x=0\\x^{2}+2\lambda y=0\\x^{2}+y^{2}-3=0\end{cases}}\quad \iff \quad {\begin{cases}x(y+\lambda )=0&{\text{(i)}}\\x^{2}=-2\lambda y&{\text{(ii)}}\\x^{2}+y^{2}=3&{\text{(iii)}}\end{cases}}}$

(iii) is just the original constraint. (i) implies ${\displaystyle x=0}$ or ${\displaystyle \lambda =-y}$. If ${\displaystyle x=0}$ then ${\displaystyle y=\pm {\sqrt {3}}}$ by (iii) and consequently ${\displaystyle \lambda =0}$ from (ii). If ${\displaystyle \lambda =-y}$, substituting this into (ii) yields ${\displaystyle x^{2}=2y^{2}}$. Substituting this into (iii) and solving for ${\displaystyle y}$ gives ${\displaystyle y=\pm 1}$. Thus there are six critical points of ${\displaystyle {\mathcal {L}}}$:

${\displaystyle ({\sqrt {2}},1,-1);\quad (-{\sqrt {2}},1,-1);\quad ({\sqrt {2}},-1,1);\quad (-{\sqrt {2}},-1,1);\quad (0,{\sqrt {3}},0);\quad (0,-{\sqrt {3}},0).}$

이러한 지점에서 목표를 평가하면

${\displaystyle f(\pm {\sqrt {2}},1)=2;\pm(\sqrt {2}},-1)=-2;\pm(0,\pm {\sqrt {3})=0.}$

따라서 목표 함수는 ${\displaystyle (\pm 2}$, 1${\displaystyle }$) ${\displaystyle(\pm {\sqrt{2}},1$)에서 전역 최대값(제한조건에 따라 다름)을 달성하고$$, ${\displaystyle 전역\sqrt{\mathrm{}}}$ 최소값은 ${\displaystyle (\pm 2}$, - 1 ${\displaystyle )}$ . ${\displaystyle(\pm {\sqrt{2},-1$)에 도달한다$.$$}$ The point ${\displaystyle (0,{\sqrt {3}})}$ is a local minimum of ${\displaystyle f}$ and ${\displaystyle (0,-{\sqrt {3}})}$ is a local maximum of ${\displaystyle f}$, as may be determined by consideration of the Hessian matrix of ${\displaystyle {\mathcal {L}}(x$$,y,0)}$.

주의할 ${\displaystyle 점}$은 $({\displaystyle }$2, ${\displaystyle 1}$,${\displaystyle }$- 1) ${\displaystyle({\sqrt{2}},1,-1)}$이(가) L ${\${\$mathcal${$L$$}}$의 임계점이기는 하지만$,$ $L{\displaystyle \mathcal{}.}$ ${\displaystyle {\mathcal${L$}}$의 국소극이 아니라는 것이다.

${\displaystyle {\mathcal {{L}\좌({\sqrt{2}}+\varepsilon ,1,-1+\delta \우)=2+\delta \좌(\varepsilon ^{2}+\좌)\varepsilon \우).}$

Given any neighbourhood of ${\displaystyle ({\sqrt {2}},1,-1)}$, one can choose a small positive ${\displaystyle \varepsilon }$ and a small ${\displaystyle \delta }$ of either sign to get ${\displaystyle {\mathcal {L}}}$ values both greater and less than ${\displaystyle 2}$. 이는 이 시점(또는 실제로 임계점 중 어느 지점에서든 평가된$$ $L{\displaystyle \mathcal{}}$ ${\$의 헤시안 행렬에서도 확인할 수 있다. $L{\displaystyle \mathcal{}}$ ${\$의 각 임계점은 $L$ ${\$ {$L}$의 안장점이다$.$^[4]

예 3: 엔트로피

최대 정보 엔트로피가 있는$$ 지점${\displaystyle }${${\displaystyle {p\mathrm{}}_{}}$ 1,${\displaystyle {}_{}}$p ${\displaystyle {2\mathrm{}}_{}}$… ,${\displaystyle }$p ${\displaystyle n_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle \{p_{1},p_{2},\ldots ,p_{n}\}}}}$에서 이산 확률 분포를 찾기를 원한다고 가정합시다. 이는 우리가${\displaystyle }${${\displaystyle {p\mathrm{}}_{}}$ 1,${\displaystyle {}_{}{}_{}}$ ${\displaystyle {2\mathrm{}}_{}}$,${\displaystyle {}_{}\cdots ,}$ p ${\displaystyle n_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle \{p_{1},p_{2},\cdots,p_{n}\}}}$ 포인트에서 가장 덜 구조화된 확률 분포를 찾기를 원한다고 말하는 것과 같다$.$ 다시 말해, 우리는 Shannon 엔트로피 방정식을 최대화하고자 한다.

${\displaystyle f(p_{1},p_{2},\ldots,p_{n}=-\sum _{j=1}^{n}p_{j}\log _{2}p_{j}.}$

확률 분포가 되려면 각 ${\displaystyle {지점}_{}}$ $x{\displaystyle {}_{}}$ ${\displaystyle x_{}}$ i ${\$의 $확률{\displaystyle {}_{}}$ 합계가 1이어야 하므로$$ 우리의 제약조건은 다음과 같다.

${\displaystyle g(p_{1},p_{2},\ldots,p_{n}=\sum _{j=1}^{n}p_{j}=1.}$

We use Lagrange multipliers to find the point of maximum entropy, ${\displaystyle {\vec {p}}^{\,*}}$, across all discrete probability distributions ${\displaystyle {\vec {p}}}$ on ${\displaystyle \{x_{1},x_{2},\ldots ,x_{n}\}}$. We require that:

$왼쪽.{\frac{\pa}{\pa{\bec{p}}}}}(f+\vecda(g-1)\right _{\vec{p}={\vec}^{p}}{\vec {{p}^{\}}},*=0,}}$

다음과 같은 n 방정식, ${\displaystyle k}$= ${\displaystyle 1}$,${\displaystyle \dots ,}$ n ${\displaystyle k=1,\ldots ,n$의 시스템을 제공한다.

$왼쪽.{\frac {\partial }{\partial p_{k}}}\left\{-\left(\sum _{j=1}^{n}p_{j}\log _{2}p_{j}\right)+\lambda \left(\sum _{j=1}^{n}p_{j}-1\right)\right\}\right _{p_{k}=p_{k}^{*}}=0.}$

이 n 방정식의 분화를 수행하면, 우리는 다음과 같은 결과를 얻는다.

${\displaystyle -\좌측값\frac{1}{\ln2}}+\log_{2}p_{k}^{*}\우측)+\filda =0.}$

이는 모든 $p{\displaystyle {}_{}^{}}$ $∗{\$이(가) 동일함을$$ 보여준다(이들은 λ에만 의존하기 때문이다). 제약 조건을 사용하여

${\displaystyle \sum _{j}p_{j}=1,}$

우리는 발견한다

${\displaystyle p_{k}^{*}={\frac {1}{n}}.}$

따라서, 균일 분포는 n개의 점에 대한 분포 중 엔트로피가 가장 큰 분포다.

예 4: 수치 최적화

라그랑비아인의 임계점은 국부적인 최대점(또는 최소점)이 아니라 안장점에서 발생한다.^[4][17] 불행하게도 힐 클라이밍, 구배 강하, 준 뉴턴 방법 중 일부는 안장점이 아닌 국부 최대치(또는 미니마)를 찾도록 설계되어 있다. 이러한 이유로, 최소화 문제(예를 들어, 아래와 같이 라그랑지아 경사의 사각형을 극단화함으로써), 또는 정지점(예: 극단 탐색 라인 검색이 없는 뉴턴의 방법)을 찾는 최적화 기법을 사용해야 하며, 반드시 극단적이지 않다.

간단한 예로 $f{\displaystyle (}$ ${\displaystyle x}$)${\displaystyle }$= ${\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$ ${\$}},$$x ${\displaystyle {2\mathrm{}}^{}}$= ${\displaystyle 1}$ ${\displaystyle x^{2}=1}$의 제약을 받는 x 값을 찾는 문제를 생각해 보십시오$.$ (이 문제는 이 제약조건을 만족시키는 값이 두 개뿐이지만, 일러스트에 유용하기 때문에 어느 정도 병적인 것이다. 왜냐하면 해당 제한되지 않은 기능은 3차원으로 시각화할 수 있기 때문이다.)

라그랑주 승수를 사용하면 이 문제를 제약 없는 최적화 문제로 전환할 수 있다.

${\displaystyle {\mathcal{L}(x,\lambda )=x^{2}+\lambda(x^{2}-1).}$

두 임계점은 x = 1 및 x = -1 안장 지점에서 발생한다.

수치최적화 기법으로 이 문제를 해결하기 위해서는 우선 이 문제를 국부적 미니마에서 임계점이 발생하도록 변형시켜야 한다. 이는 제약되지 않는 최적화 문제의 경사로의 크기를 계산함으로써 이루어진다.

첫째, 우리는 각 변수와 관련하여 제한되지 않은 문제의 부분적인 파생상품을 계산한다.

${\displaystyle {\begin{aigned}&{\frac {\partial {L}{\partial x}{\x+2x\lambda \[5pt]&}\prac {\partial {\mathcal}{L}{\partial \lambda}-1}-1.\end{정렬}}}$

목표함수가 쉽게 차이가 나지 않는 경우, 각 변수에 대한 미분차를 다음과 같이 근사하게 추정할 수 있다.

${\displaystyle {\begin{aligned}{\frac {\partial {\mathcal {L}}}{\partial x}}\approx {\frac {{\mathcal {L}}(x+\varepsilon ,\lambda )-{\mathcal {L}}(x,\lambda )}{\varepsilon }},\\[5pt]{\frac {\partial {\mathcal {L}}}{\partial \lambda }}\approx {\frac {{\mathcal {L}}(x,\lambda +\varepsilon )-{\mathcal {L}}(x,\lambda )}{\varepsilon }},\end{aligned}}}$

여기서 $\epsilon {\displaystyle }$ ${\displaystyle \varepsilon }$은(는) 작은 값이다$$.

다음으로, 부분파생상품의 제곱합 합계의 제곱근인 그라데이션의 크기를 계산한다.

${\displaystyle {\begin{aligned}h(x,\lambda )&={\sqrt {(2x+2x\lambda )^{2}+(x^{2}-1)^{2}}}\\[4pt]&\approx {\sqrt {\left({\frac {{\mathcal {L}}(x+\varepsilon ,\lambda )-{\mathcal {L}}(x,\lambda )}{\varepsilon }}\right)^{2}+\left({\frac {{\mathcal {L}}(x,\lambda +\varepsilon )-{\mathcal {L}}(x,\lambda )}{\varepsilon }}\right)^{2}}}.\end{정렬}}}$

(규모는 항상 음수가 아니기 때문에, 규모 제곱에 대한 최적화는 규모에 대한 최적화와 동일하다. 따라서 "제곱근"은 최적화 결과에서 기대되는 차이가 없는 상태에서 이들 방정식에서 생략할 수 있다.)

$h$의 임계점은 $L{\displaystyle \mathcal{}}$ ${\$ ${\$$mathcal{L}}$과 같이 x = 1과 x = -1에서 발생한다$.$ $그러나$ L {\$displaystyle {\mathcal${L$}}$의 임계점과 달리 h의 임계점은 국소 미니마에서 발생하므로 숫자 최적화 기법을 사용하여 찾을 수 있다.

적용들

제어 이론

최적관제 이론에서 라그랑주 승수는 비용변수로 해석되며, 라그랑주 승수는 폰트랴긴의 최소원리로 해밀턴주의 최소화로 재조정된다.

비선형 프로그래밍

라그랑주 곱셈법에는 몇 가지 일반화가 있다. 비선형 프로그래밍에는 불평등 제약에 대한 캐러테오도리-존 곱셈 규칙 및 볼록 곱셈 규칙과 같은 몇 가지 곱셈 규칙이 있다.^[18]

전력 시스템

라그랑주 승수에 기반한 방법은 전력 시스템에 응용 프로그램(예: 분산 에너지 자원(DER) 배치 및 부하 분산)이 있다.^[19]

참고 항목

참조

추가 읽기

• Beavis, Brian; Dobbs, Ian M. (1990). "Static Optimization". Optimization and Stability Theory for Economic Analysis. New York: Cambridge University Press. pp. 32–72. ISBN 0-521-33605-8.
• Bertsekas, Dimitri P. (1982). Constrained Optimization and Lagrange Multiplier Methods. New York: Academic Press. ISBN 0-12-093480-9.
• Beveridge, Gordon S. G.; Schechter, Robert S. (1970). "Lagrangian Multipliers". Optimization: Theory and Practice. New York: McGraw-Hill. pp. 244–259. ISBN 0-07-005128-3.
• Binger, Brian R.; Hoffman, Elizabeth (1998). "Constrained Optimization". Microeconomics with Calculus (2nd ed.). Reading: Addison-Wesley. pp. 56–91. ISBN 0-321-01225-9.
• Carter, Michael (2001). "Equality Constraints". Foundations of Mathematical Economics. Cambridge: MIT Press. pp. 516–549. ISBN 0-262-53192-5.
• Hestenes, Magnus R. (1966). "Minima of functions subject to equality constraints". Calculus of Variations and Optimal Control Theory. New York: Wiley. pp. 29–34.
• Wylie, C. Ray; Barrett, Louis C. (1995). "The Extrema of Integrals under Constraint". Advanced Engineering Mathematics (Sixth ed.). New York: McGraw-Hill. pp. 1096–1103. ISBN 0-07-072206-4.

외부 링크

박람회

• 키피드의 블로그 - 라그랑주 승수법
• 개념 소개(물리학에서 사용되는 변동의 미적분학에서 라그랑주 승수에 대한 간략한 설명)
• Kenneth H. Carpeter에 의한 선형 구속조건에 의한 2차 형태 라그랑주 곱하기

추가 텍스트 및 대화형 애플릿의 경우

• 세금을 라그랑주 승수로 사용하는 정부의 예를 통한 간단한 설명
• Dan Klein의 직관에 초점을 맞춘 영구적인 흉터 설명이 없는 Lagrange Multiers
• 라그랑주 승수의 기하학적 표현 최소 지점에서 가장 가파른 하강 방향이 그 지점에서 구속조건 곡선의 접선에 수직이어야 한다는 2차원의 설득력 있는 통찰력을 제공한다. [InternetExplorer/Firefox/Safari] 샤시 사샤나라야나의 매스매티카 시연
• 애플릿
• 다변량 미적분학 코스의 라그랑주 곱셈기에 관한 MIT OpenCourseware 비디오 강의
• Bertsekas의 비선형 최적화 텍스트에 수반되는 슬라이드, 라그랑주 곱셈기(선택사항 11 및 12)
• 라그랑주 승수 뒤에 숨겨진 기하학적 아이디어
• MATLAB의 최적화에서 Lagrange Multiers 사용 예제