矩阵范式和矩阵衍生物

今天看了半天强化学习，看得很不开心。。。因为一直处于懵圈状态。。。
于是乎不想看了，稍微总结一下矩阵范数的求解来放松一下身心吧~

这里总结的矩阵范数主要是F范数、1范数、2范数、核范数以及全变分TV范数与1、2的搭配

1、F范数

概念：

矩阵各个元素平方和开根，概念上非常像向量的L2范数
导数：求导的方法则是将其展开来，一般情况下我们不会直接求原始的范数||A||F，因为很麻烦，即使是在损失函数中也是用F范数的平方项来简化运算，而常见的损失函数一般是 ，此时对X求导，则需要将内部的Y-X展开来
（Y−X）T∗（Y−X）=YTY+2∗XTY+XTX$（Y-X{）}^T\ast （Y-X）=Y^{T}Y+2\ast X^{T}Y+X^{T}X$，所以对 12||Y−X||2F$\frac{1}{2}||Y-X|{|}_F^2$中X求导即为 X−Y$X-Y$

2、1范数

概念：║A║1 = max{ ∑|ai1|, ∑|ai2| ,…… ,∑|ain| } (列和范数，A每一列元素绝对值之和的最大值)　(其中∑|ai1|第一列元素绝对值的和∑|ai1|=|a11|+|a21|+…+|an1|,其余类似)；
矩阵的1范数和向量的1范数雷同，不能直接求解，只能分情况讨论
求导：常规的L1范数的求导是在损失函数中作为正则项出现，即12||Y−X||2F+λ1||X||1$\frac{1}{2}||Y-X|{|}_F^2+{\lambda }_1||X|{|}_1$，这里前半部分求导是X−Y$X-Y$，后半部分则需要分情况讨论，最终结果为为

3、2范数

概念：||A||2$||A|{|}_2$指的是A最大的奇异值或者半正定矩阵A*A最大特征值开根
求导：对于问题