矩阵的导出定律
1. 复杂矩阵问题求导方法：可以从小到大，从scalar到vector再到matrix
2. x is a column vector, A is a matrix
d(ax )/dx=A
d(xta )/dxT=A
d(xta )/dx=AT
d(xtax )/dx=XT (ATA ) ) ) ) ) ) ) ) ) ) )。
3. Practice:
4. 矩阵求导计算法则
求导式(撇号为转置) :
y=a* xdy/dx=a’
y=x * ady/dx=a
y=a’* x * bdy/dx=a * b’
y=a’* x’* bdy/dx=b * a’
乘积导数：
d(f*g )/dx=(df )/dx ) g ) g (dg/dx ) f )
一些结论：矩阵y导出标量x :
注意，相当于各要素求出导数后进行置换，MN矩阵求出导数后变为NM
y=[y(ij ) ]dy/dx=[ dy (Ji )/dx]标量y导出列向量x :
与上述不同，我们注意到，此次括号内求出偏导数，使其不动，在对N1向量求出导后仍为N1向量
y=f(x1，x2，xn )-dy/dx=) dy/dx1，Dy/Dx2，Dy/Dxn )行向量y导出列向量x :
请注意，如果1M向量导出N1向量，则生成NM矩阵。
将y的各列对x求偏导数，将各列矩阵。
重要结论：
dx’/dx=I
d(ax ) )/dX=A )列向量y导出行向量x ) :
转换为矩阵向量y对列向量x的导数，然后转置所得的乘积。
注意M1向量对1N向量导出的结果为MN矩阵。
dy/dx’=(dy’/dx ) )向量积对列向量x求导算法：
请注意，这与标量制导略有不同。
d(uv ) )/dx=(du/dx ) v ) u ) dv )/dx ) ) ) ) ) ) ) ) )。
d(u ) v )/dx=) du )/dx ) v ) dv )/dx ) u )
重要结论：
d(x ) a )/dx=) dx )/dx ) a ) da/dx ) x )=ia0x )=a
d(ax )/dX )=) d ) x ) a )/dX ) )=) a ) )=a
d(x ) ax )/dX )/dX ) ax )/dX ) x=axa ) x矩阵y导出列向量x :
将y对x的各成分求出偏导数，构成一个超向量。
请注意，此向量的每个元素都是矩阵。 矩阵乘积对列向量求导定律：
d(uv )/dx=) du/dx ) vu ) dv/dx ) )。
d(uv )/dx=) du/dx ) vu ) dv/dx ) )。
重要结论：
d(x ) a )/dx=(dx )/dx ) ax ) ) da/dx )=iax )0=a标量y的矩阵x的导数：
如标量y对于列向量x导数那样，
y对每个x的元素求偏导数，可以不转置。
dy/dx=[dy/dx(IJ ) ]
重要结论：
y=u’XV=u (I ) x ) ij ) v ) j )，则dy/dX=[u(i ) I ) v ) j ]=uv’
y=u’x’Xu的话dy/dx=2xuu’
y=(XU-V ) )的情况下，dy/dx=d ) u’x’Xu-2v’xuv’v )/dx=2xuu’- 2vu’0=2) Xu-v ) u’矩阵y的矩阵x的导数：
将y的各要素导向x，排列形成超矩阵。
10 .乘积的导数
d(f*g )/dx=(df )/dx ) g ) g (dg/dx ) f )
结论
d(x ) ax ) ) d ) x )/dx ) ax ) ) x ) ) axa ) x ) (注意，“表示两次转置”的矩阵推导是矩阵计算，并且应当寻找矩阵计算的文献。
33558 www.psi.Toronto.edu/matrix/intro.html # intro
33558 www.psi.Toronto.edu/matrix/calculus.html
33558 www.Stanford.edu/~ dattorro/matrix calc.pdf
33558 www.Colorado.edu/engineering/cas/courses.d/ifem.d/ifem.appd.d/ifem.appd.appd.pdf
33558 www4. ncsu.edu/~ pfackler/mat calc.pdf
3358 center.uvt.nl/staff/magnus/WIP 12.pdf