本文重點
在前面的課程中,我們學習了拉格朗日乘數法求解等式約束下函數極值,如果約束不是等式而是不等式呢?此時就需要KTT條件出手了,KTT條件是拉格朗日乘數法的推廣。KTT條件不僅統一了等式約束與不等式約束的優化問題求解范式,KTT條件給出了這類問題取得極值的一階必要條件。
了解
KKT條件的歷史可追溯至1939年,當時卡魯什在其碩士論文中首次完整闡述了帶不等式約束優化問題的必要條件。這一成果在當時并未引起廣泛關注,直至1951年庫恩和塔克在非線性規劃研究中重新發現并嚴格證明了該理論,才使其正式進入學術視野。這一命名爭議本身折射出科學發現中"獨立重復發明"的普遍現象,但更彰顯了該理論跨越時空的學術價值。
隨著計算機技術的發展,KKT條件的應用場景呈現指數級擴展。在20世紀80年代,該理論成為支持向量機(SVM)等統計學習方法的數學基礎;進入21世紀后,在深度學習的參數優化、金融工程的投資組合優化、電力系統的經濟調度等領域,KKT條件持續發揮著核心作用。這種理論與應用相互促進的發展軌跡,正是數學優化領域生命力的重要體現。
數學表達
KKT條件通過引入拉格朗日乘子μi≥0和