這里老師想講的是multiclass classification和multilable classification的區別,下面是我從其他地方找到的說法:
Multiclass classification 多類分類 意味著一個分類任務需要對多于兩個類的數據進行分類。比如,對一系列的橘子,蘋果或者梨的圖片進行分類。多類分類假設每一個樣本有且僅有一個標簽:一個水果可以被歸類為蘋果,也可以 是梨,但不能同時被歸類為兩類。
Multilabel classification 多標簽分類 給每一個樣本分配一系列標簽。這可以被認為是預測不相互排斥的數據點的屬性,例如與文檔類型相關的主題。一個文本可以歸類為任意類別,例如可以同時為政治、金融、 教育相關或者不屬于以上任何類別。
梯度下降優化
Adam(adaptive moment estimation,自適應運動估計)算法?
若 w或b 一直沿著?一個方向,Adam算法將自動增大學習率α;若來回震蕩,則減小α。
其他類型的層
卷積層
每個神經元只關注前一層的部分輸入,優點是能提高計算速度、需要更少的訓練數據(減少過擬合的可能)