【轉載】矩陣求導、幾種重要的矩陣及常用的矩陣求導公式

版權聲明：本文為博主原創文章，遵循 CC 4.0 BY-SA 版權協議，轉載請附上原文出處鏈接和本聲明。
本文鏈接：https://blog.csdn.net/daaikuaichuan/article/details/80620518

一、矩陣求導

??一般來講，我們約定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T，這是分母布局。常見的矩陣求導方式有：向量對向量求導，標量對向量求導，向量對標量求導。

1、向量對向量求導

? ? ? Numerator layout : 分子布局

? ? ? Denominator layout : 分母布局

? ? ? 《多元統計分析》課堂，按照分子布局來講。

?

2、標量對向量求導

?

?

?

?

3、向量對標量求導

?

其他的可以參考wiki：維基百科矩陣求導公式

?

二、幾種重要的矩陣

1、梯度（Gradient）

?

?

?

?

2、雅克比矩陣（Jacobian matrix）

?

?

?

?

3、海森矩陣（Hessian matrix）

?

三、常用的矩陣求導公式

?

?

?

?

參考：
https://blog.csdn.net/xtydtc/article/details/51133903
https://blog.csdn.net/yc461515457/article/details/49682473
————————————————
版權聲明：本文為CSDN博主「lx青萍之末」的原創文章，遵循 CC 4.0 BY-SA 版權協議，轉載請附上原文出處鏈接及本聲明。
原文鏈接：https://blog.csdn.net/daaikuaichuan/article/details/80620518