最小二乘法就是讓均方誤差最小。

下面是損失函數轉換為矩陣方式的詳解

如何讓其最小，在導數為0的地方取極小值。

問：導數為0的地方可能去極大值，也可能是極小值，憑什么說導數為0就是極小值？

答：因為使用的是均方誤差，他是一個凹函數，導數為0的點即為最小值和極小值。

建議學習一下線性代數

先看這個例子，怕有的人看不懂之后咋來的。

以此類推：

上述式子中共有4項，最后一項不含θ ，所以求導為0，其余前三項求導，下面將給出矩陣的求導方式。

因為x是我們的數據，θ 才是我們要的參數，所以對θ 求θ?導。

由此別得到最優解。