邏輯回歸logistic_regression(LR)其實是分類算法，而不是回歸算法。
回歸算法得到的是一個數，分類算法得到的是幾個不同的類別。
邏輯回歸就是通過函數將值轉換為0-1之間，形成概率問題，從而實現了不同類別的分類。
Sigmoid 函數
Ⅰ、函數介紹
自變量取值為任意實數，值域[0,1]
將任意的輸入映射到了[0,1]區間，在線性回歸中可以得到一個預測值，再將該值映射到Sigmoid 函數中這樣就完成了由值到概率的轉換，也就是分類任務。
Ⅱ、函數整理
預測函數：
，其中
分類任務：
整理可得：
對于二分類任務（0，1），整合后y取0只保留
，y取1只保留
。
Ⅲ、函數推導
①，先帶入求出似然函數
②，取對數，求解對數似然，轉換完之后卻成為了求解最大值，機器學習中常常需要求解下降問題
③，為了將求解最大值轉換為求解下降問題
通過
轉換為求解下降問題，其中m為樣本個數。
④，求導過程
⑤，更新參數
，α為當前的學習率。
⑥、補充：多分類的softmax
