場景:動物識別,輸入一張28*28的圖像,模型輸出屬于 貓、狗、鳥 哪個類型。
需求:假設模型 ??Logits(模型在每個類別的置信度得分) 輸出為??:[貓: 3.2, 狗: 1.5, 鳥: -0.8]。計算 ??Softmax 轉換后?的值(即概率值)。輸出詳細計算過程
Softmax 計算過程(以輸入 Logits [3.2, 1.5, -0.8] 為例):
??步驟 1:計算每個 Logit 的指數值??
Softmax 公式為:
其中 zi?是第 i個 Logit 值,K是類別總數(此處 K=3)。
計算各 Logit 的指數:
貓(z0?=3.2):e3.2≈24.5325
狗(z1?=1.5):e1.5≈4.4817
鳥(z2?=?0.8):e?0.8≈0.4493
??步驟 2:計算指數和(分母)??
??步驟 3:計算每個類別的 Softmax 值??
貓:29.463524.5325?≈0.8326
狗:29.46354.4817?≈0.1521
鳥:29.46350.4493?≈0.0153
最終結果:
Softmax 轉換后值(各類別預測的概率)為 ??[貓: 0.8326, 狗: 0.1521, 鳥: 0.0153]??(總和為 1)。