专栏限时打折中
函数f(x)关于向量x的梯度
函数f(x)关于向量X^T的梯度
m维行向量函数f(x)=(f1(x),...,fm(x))关于向量x的梯度
f(A)关于m*n矩阵A的的梯度
对向量的偏导数
XTAy可以看作内积x,Ay,那么求x的偏导数就是Ay。
Y^TAx可以看作内积y,Ax,然后可以变成t y,x,所以x的偏导数是ty。
X^TAx可以称为内积x,Ax。因为有两边,当左边求导的结果是AX时,此时就变成了TX,如果x继续求导右边的导数,结果就是TX,那么两边就和Ax A^Tx.相连
迹函数的梯度矩阵
n阶方阵A的迹定义为方阵A的主对角线元素之和,方阵的迹运算通常写成trA,所以我们有
公共矩阵迹的微分:
常用跟踪函数的梯度矩阵示例:
如上图,迹是对角元素的和,所以得到A的偏导数。此时,矩阵A的非对角元素为0,对角元素为1。
如上图,迹AB取A的偏导数,Apl的结果是Blp,是B矩阵的转置。