引言

6.1 坐標輪換法（工程上基本不用，效率低不適用高維）

6.1例子：主要是對最優步長alpha的確定

6.2 最速下降法（相鄰兩次的搜索方向互相垂直）

6.2例子

求解法一

注：最速下降法與坐標輪換法的區別：

坐標輪換法的搜索方法是按照坐標方向進行的，而最速下降法的搜索方向是按照下降最快的方向進行的，不一定是坐標方向

求解法二：

6.3 牛頓法（需要計算逆矩陣和二階偏導）

6.3 例子（一步）

6.4 變尺度法（基于牛頓進行改進）（關鍵在于求尺度矩陣）

（5）終止條件判斷：

6.4 例子

作業6-4、6-6