線性回歸:研究自變量和因變量之間的關系。對于特征x=(x1,x2,x3....)與對應的標簽y,線性回歸假設二者之間存在線性映射。f(x)=w1x+w2x(平方)+w3x(三次方)...,權重w表示每個特征變量的重要程度。越大表示越重要。
線性回歸目標:求解w和b使得f(x)與y盡可能的接近。
一元線性回歸:
f(x)=wx+b,目標函數J(w,b)
令目標函數對w和b的偏導數為0
對w求偏導其他看作常量,w看作變量那么復合函數一開始是當作函數平方形式求導,在對內層求導因此還要乘-x(i)。對b求偏導同理。
進行化簡
多元線性回歸推導太復雜我不會,想學的自己看吧。
【多元線性回歸公式推導】https://www.bilibili.com/video/BV1Eg411j7ZB?vd_source=47de80bcce8630d9c3c112bdb143c43e