카루시-쿤-터커 조건
Karush–Kuhn–Tucker conditions수학적 최적화에서 KKT(Karush-Kohn-Tucker) 조건(Khan-Kohn-Tucker)은 Kuhn-Tucker라고도 한다.터커 조건은 일부 규칙성 조건이 충족되는 경우 비선형 프로그래밍의 솔루션이 최적이어야 하는 첫 번째 파생 테스트(일차적으로 필요한 조건이라고도 함)이다.
불평등 제약을 허용하면서, 비선형 프로그래밍에 대한 KKT 접근방식은 평등 제약만 허용하는 라그랑주 승수법을 일반화한다. 라그랑주 접근법과 유사하게, 제약된 최대화(최소화) 문제는 최적의 포인트가 안장점인 라그랑주 함수로 다시 쓰이며, 즉 선택 변수의 영역에 대한 글로벌 최대치(최소화), 승수에 대한 글로벌 최소치(최소화)가 그것 때문에 카루시-쿤-터커의 정리가 참고가 되기도 한다.안장 포인트의 정리로서 에드가 된다.[1]
KKT 조건은 원래 해럴드 W. 쿤과 알버트 W.의 이름을 따서 명명되었다. 1951년 처음 조건을 발표한 터커.[2] 이후 학자들은 이 문제에 필요한 조건이 윌리엄 카루시에 의해 1939년 석사학위 논문에서 언급되었다는 것을 발견했다.[3][4]
비선형 최적화 문제
다음과 같은 비선형 최소화 또는 최대화 문제를 고려하십시오.
- f ( ){\ {
- 의 대상이 되다
where is the optimization variable chosen from a convex subset of , is the objective or utility function, are the inequality constraint 함수 및 h = 1, … , ) 는 동일 제약 함수다. 불평등과 평등의 수는 각각 과 로 표시된다. 제한된 최적화 문제에 대응하여 라그랑지안 함수를 형성할 수 있다.
where , 카루시-쿤-터커 정리는 그 후 다음과 같이 말하고 있다.
정리. If is a saddle point of in , , then 은 (는) 위의 최적화 문제에 대한 최적의 벡터다. Suppose that and , , are convex in and that there exists such that (x0)<0{\displaystyle \mathbf{g}(\mathbf{x}_{0})<0}.이러한 L()∗,μ ∗)그리고 그 위의 최적화 문제에 대한 최적의 벡터)∗{\displaystyle \mathbf{)}^{\ast}}에 μ∗{\displaystyle \mathbf{\mu}^{\ast}}{\displaystylenon-negative 벡터 관련된 L.{ 는 [5]의 안장점이다
Since the idea of this approach is to find a supporting hyperplane on the feasible set , the proof of the Karush–Kuhn–Tucker theorem makes use of the hyperplane s에파레이션 [6]정리
폐쇄형 솔루션을 분석적으로 도출할 수 있는 몇 가지 특별한 경우를 제외하고, KKT 조건에 해당하는 방정식과 불평등 시스템은 대개 직접 해결되지 않는다. 일반적으로 많은 최적화 알고리즘은 방정식과 불평등의 KKT 시스템을 수치적으로 해결하기 위한 방법으로 해석할 수 있다.[7]
필요조건
Suppose that the objective function and the constraint functions and are continuously differentiable at a point . If is a local optimum and the optimization problem satisfies some regularity conditions (see below), then there exist constants 과 (와) j(= 1,… ,) {\ \j=1 ell 는 다음과 같은 네 가지 조건 그룹이 KKT 승수라고 불렸다.
- 역학성
- For minimizing :
- For maximizing :
- 원시적 타당성
- 이중타당성
- 보완적 느슨함
마지막 조건은 때때로 등가 형태로 기록된다: i( )= = 1, m.
특별한 경우 = 즉 불평등 제약이 없을 때 KKT 조건이 라그랑주 조건으로 변하며, KKT 승수를 라그랑주 승수라고 한다.
일부 기능이 차별화되지 않는 경우 KKT(Karush-Kohn-Tucker) 조건의 하위 차등 버전을 사용할 수 있다.[8]
행렬 표현
필요한 조건은 제약함수의 Jacobian 행렬로 작성할 수 있다. Let be defined as and let be defined as . Let lambda 필요한 조건은 다음과 같이 쓸 수 있다
- 역학성
- For maximizing :
- For minimizing :
- 원시적 타당성
- 이중타당성
- 보완적 느슨함
규칙성 조건(또는 제약 조건 자격)
제약이 있는 원래 최적화 문제(있는 것으로 가정)의 미니마이저 포인트 가 위의 KKT 조건을 충족해야 하는지를 물을 수 있다. 이는 제한되지 않은 문제에서 함수 ) 의 최소제 displaystyle f(x이(가) ( )= 0 조건을 만족해야 하는 조건과 유사하다 제한된 경우 상황은 더 복잡하고 하나의 상태를 나타낼 수 있다. 제약된 미니마이저도 KKT 조건을 만족시키는 다양한 (증가적으로 복잡한) "정규성" 조건. 이를 보장하는 몇 가지 일반적인 조건의 예는 다음과 같이 표에 표시되며, LICQ는 가장 자주 사용된다.
제약 | 약어 | 성명서 |
---|---|---|
선형성 제약 조건 검증 | LCQ | 와 가 어핀 함수라면 다른 조건이 필요하지 않다. |
선형독립 제약조건 적격성 | 리큐 | 능동 불평등 구속조건의 구배와 동일 구속조건의 구배는 ∗ x에서 선형적으로 독립적이다 |
망가사리안-프로모비츠 제약 조건 자격 | MFCQ | 평등은 제약 조건의 경사치 선형적으로 x∗{\displaystyle x^{*}에서}와 벡터 d∈ Rn{\displaystyled\in \mathbb{R}^{n}}나는⊤ d<>()∗)가∇ g;0{\displaystyle \nabla g_{나는}(x^{*})^{\top}d<. 0}일 경우 모두 적극적 불평등 제약 조건을 위해 존재하고 ∇ h. 독립적이다 j( ) = 모든 동일 제약 조건.[9] |
상수 순위 제약 조건 자격 | CRCQ | 활성 불평등 제약 조건의 구배와 동등 제약 조건의 구배 각각에 대해, 부근의 순위는 일정하다. |
일정 양의 선형 의존 제약 조건 검증 | CPLD | 활성 불평등 제약 조건의 구배와 동등 제약 조건의 구배 각각에 대해 벡터의 부분집합이 constraints {\ x에서 선형 종속된 경우, 비음극 스칼라가 불평등 제약 조건과 연관된 경우, x의 근방에 선형 종속된 상태를 유지한다.. |
준정규성 제약조건 자격인정 | QNCQ | 활성 불평등 제약 조건의 구배와 동등 제약 조건의 구배 이 x {\에서 선형적으로 의존하는 경우, 동등성에 대한 such that and |
슬레이터 상태 | SC | For a convex problem (i.e., assuming minimization, are convex and is affine), there exists a point such that and |
엄격한 함의는 보여질 수 있다.
- LICQ ⇒ MFCQ ⇒ CPLD ⇒ QNCQ
그리고
- LICQ ⇒ CRCQ ⇒ CPLD ⇒ QNCQ
실제로 더 광범위한 문제에 적용되기 때문에 약한 제약조건의 자격요건이 선호된다.
충분한 조건
경우에 따라서는 필요한 조건도 최적화에 충분하다. 일반적으로, 필요한 조건은 최적화에 충분하지 않으며, 2차 주문 충분 조건(SOSC)과 같은 추가 정보가 필요하다. 원활한 기능을 위해 SOSC는 그 이름을 설명하는 두 번째 파생상품을 포함한다.
최대화 문제의 객관적 f 이(가) 오목함수이고, 불평등 제약조건 이 (가) 연속적으로 다른 볼록함수이고, 동등 h 이)가 붙는 경우 필요한 조건은 최적화에 충분하다.기능들 마찬가지로, 최소화 문제의 객관적 함수 이 볼록 함수인 경우, 필요한 조건도 최적화에 충분하다.
KKT 조건이 전지구적 최적성을 보장하는 기능의 더 넓은 등급이 이른바 제1형 인벡스 기능임을 마틴이 1985년 보여주었다.[10][11]
2차 충분한 조건
원활한 비선형 최적화 문제의 경우, 2차 순서에 따라 충분한 조건이 다음과 같이 제시된다.
위 절에서 발견된 용액 , μ {\ x^{*},\^{*}}}}은(는) 라그랑지아의 경우 제한된 국소 최소값이다.
그럼
서 s 은 (는) 다음을 만족하는 벡터다.
여기에는 엄격한 상호보완성에 해당하는 불평등 g i( ) 만 적용된다(즉, > 0 그 해결책은 불평등도 엄격한 경우에 엄격한 제약이 있는 국소적 최소치다.
( , ) = 0 라그랑지안의 세 번째 테일러 확장을 사용하여 이 국소 최소치인지 확인해야 한다. , 2)=( - x )( - 1 ) f{1{2}-}^{1})의 최소화는 좋은 카운터-예시(예: 페아노 표면도 참조).
경제학
종종 수학적 경제학에서 KKT 접근법은 질적 결과를 얻기 위해 이론적 모델에서 사용된다. 예를 들어, 최소한의 이익 제약에 따라 매출 수익을 극대화하는 회사를 생각해 보자.[12] 을(를) 생산량(할)으로 하고, ( Q 을(를) 플러스 첫 번째 파생상품으로 판매 수익으로 하며, ( Q 는 플러스 첫 번째 파생상품과 비 음의 생산원가로 한다. 은(는) 최소 허용 이익 수준이며, 수익 함수가 수평이 맞지 않아 결국 비용 함수에 비해 경사가 덜해진다면 문제는 의미 있는 문제다. 이전에 주어진 최소화 양식에서 표현된 문제는
- 최소화- ( )
- 의 대상이 되다
KKT 조건은
= Q이(가) 최소 이익 제약 조건을 위반하므로 > 0 이 (가) 있으므로 세 번째 조건은 첫 번째 조건이 동등하게 유지됨을 의미한다. 평등이 주는 해결
Because it was given that and are strictly positive, this inequality along with the non-negativity condition on guarantees that is positive and so the revenue-maximizing firm operates at a level of output at which marginal revenue is less than marginal cost — a result that is of interest because it contrasts with the behavior of a profit maximizing firm, which operates at a level 그들이 동등한 위치에 있는 것.
가치함수
지속적인 불평등 제약조건이 있는 최대화 문제로서 최적화 문제를 재고하는 경우:
값 함수는 다음과 같이 정의된다.
so the domain of is
이 정의를 고려할 때 각 계수 는 가 증가함에 따라 값 함수가 증가하는 비율이다. 따라서 각 가 리소스 제약으로 해석되는 경우, 이 계수는 리소스를 증가시키면 함수 의 최적 값이 얼마나 증가하는지 알려준다 이러한 해석은 특히 경제학에서 중요하며 예를 들어 효용 극대화 문제에 사용된다.
일반화
With an extra multiplier , which may be zero (as long as ), in front of the KKT stationarity conditions turn into
'프리츠 존 조건'이라 불리는 조건이지 이 최적성 조건은 제약 조건 없이 유지되며, 그것은 최적성 조건 KKT 또는 (MFCQ가 아님)과 동등하다.
KKT 조건은 하위 계수를 사용하는 비매끄러운 기능을 허용하는 1차 필수 조건(FONC)의 더 넓은 등급에 속한다.
참고 항목
참조
- ^ Tabak, Daniel; Kuo, Benjamin C. (1971). Optimal Control by Mathematical Programming. Englewood Cliffs, NJ: Prentice-Hall. pp. 19–20. ISBN 0-13-638106-5.
- ^ Kuhn, H. W.; Tucker, A. W. (1951). "Nonlinear programming". Proceedings of 2nd Berkeley Symposium. Berkeley: University of California Press. pp. 481–492. MR 0047303.
- ^ W. Karush (1939). Minima of Functions of Several Variables with Inequalities as Side Constraints (M.Sc. thesis). Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois.
- ^ Kjeldsen, Tinne Hoff (2000). "A contextualized historical analysis of the Kuhn-Tucker theorem in nonlinear programming: the impact of World War II". Historia Math. 27 (4): 331–361. doi:10.1006/hmat.2000.2289. MR 1800317.
- ^ Walsh, G. R. (1975). "Saddle-point Property of Lagrangian Function". Methods of Optimization. New York: John Wiley & Sons. pp. 39–44. ISBN 0-471-91922-5.
- ^ Kemp, Murray C.; Kimura, Yoshio (1978). Introduction to Mathematical Economics. New York: Springer. pp. 38–44. ISBN 0-387-90304-6.
- ^ Boyd, Stephen; Vandenberghe, Lieven (2004). Convex Optimization. Cambridge: Cambridge University Press. p. 244. ISBN 0-521-83378-7. MR 2061575.
- ^ Ruszczyński, Andrzej (2006). Nonlinear Optimization. Princeton, NJ: Princeton University Press. ISBN 978-0691119151. MR 2199043.
- ^ Dimitri Bertsekas (1999). Nonlinear Programming (2 ed.). Athena Scientific. pp. 329–330. ISBN 9781886529007.
- ^ Martin, D. H. (1985). "The Essence of Invexity". J. Optim. Theory Appl. 47 (1): 65–76. doi:10.1007/BF00941316. S2CID 122906371.
- ^ Hanson, M. A. (1999). "Invexity and the Kuhn-Tucker Theorem". J. Math. Anal. Appl. 236 (2): 594–604. doi:10.1006/jmaa.1999.6484.
- ^ 치앙, 알파 C. 수학 경제학의 기본 방법들, 제3판, 1984, 페이지 750–752.
추가 읽기
- Andreani, R.; Martínez, J. M.; Schuverdt, M. L. (2005). "On the relation between constant positive linear dependence condition and quasinormality constraint qualification". Journal of Optimization Theory and Applications. 125 (2): 473–485. doi:10.1007/s10957-004-1861-9. S2CID 122212394.
- Avriel, Mordecai (2003). Nonlinear Programming: Analysis and Methods. Dover. ISBN 0-486-43227-0.
- Boltyanski, V.; Martini, H.; Soltan, V. (1998). "The Kuhn–Tucker Theorem". Geometric Methods and Optimization Problems. New York: Springer. pp. 78–92. ISBN 0-7923-5454-0.
- Boyd, S.; Vandenberghe, L. (2004). "Optimality Conditions" (PDF). Convex Optimization. Cambridge University Press. pp. 241–249. ISBN 0-521-83378-7.
- Kemp, Murray C.; Kimura, Yoshio (1978). Introduction to Mathematical Economics. New York: Springer. pp. 38–73. ISBN 0-387-90304-6.
- Rau, Nicholas (1981). "Lagrange Multipliers". Matrices and Mathematical Programming. London: Macmillan. pp. 156–174. ISBN 0-333-27768-6.
- Nocedal, J.; Wright, S. J. (2006). Numerical Optimization. New York: Springer. ISBN 978-0-387-30303-1.
- Sundaram, Rangarajan K. (1996). "Inequality Constraints and the Theorem of Kuhn and Tucker". A First Course in Optimization Theory. New York: Cambridge University Press. pp. 145–171. ISBN 0-521-49770-1.