奇异值分解(SVD)定理
奇异值矩阵
- 和A的大小相同都是m×n
- 主对角线元素:从大到小排列,称为奇异值
- 其他位置=0
例:
在这里,第1个矩阵和第3个矩阵为正交矩阵
中间的矩阵=奇异值矩阵,奇异值=7.7,2.6(7.7>2.6)
计算U
(1)
- 求AA(T,转置):m阶对称矩阵-》可相似对角化
- 求AA(T,转置)的相似对角化矩阵-》得到U
注意:特征值从大到小排列
计算V
(1)
- 计算A(T,转置)A:n阶对称矩阵-》可相似对角化
- 求A(T,转置)A相似对角化矩阵-》得到V(T,转置)
注意:1.特征值从大到小排,2.V本身就是正交矩阵
例子中得到,最后一个是V(T,转置)
计算奇异值矩阵
因为A(T,转置)A和AA(T,转置)的非零特征值相同
- 求A(T,转置)A的非零特征值
- 对非零特征值开方-》得到奇异值
- 写一个空的奇异值矩阵(大小=A)
- 把求到的奇异值按照从大到小填充到主对角线
- 其他位置用0填充
例子:
AA(T,转置)特征值=59.2,6.75
奇异值分解能图片压缩的原因
A=U×奇异值矩阵×V(T)
- 把U写成列向量组U1,U2,U3
- 把V(T)写成行向量
前两个矩阵相乘
乘出来的结果中只有前3项有意义。
因为1,11系数很小,所以可以把矩阵≈,用近似值表示矩阵-》前两项的系数8.45,4.94为奇异值。
因为前两个系数比较大为奇异值-》对奇异值矩阵分成两个部分(2×2,1×1)
所以U取前两列,V(T)取前两行,剩余部分省去
省去后的结果
降维体现在哪里
我们使得原始矩阵的秩变小了,矩阵大小没有改变
原来的矩阵秩=3-》乘后的矩阵秩=2
求压缩精度
保留原矩阵的特征比例 = 降后的奇异值/原本矩阵的奇异值
压缩后的效果
帮助我们对图片进行压缩
如何用SVD进行图片压缩
RGB:
- R代表Red(红色)
- G代表Green(绿色)
- B代表Blue(蓝色)
RGB具体表示:
R,G,B的取值范围=0-255
(0没有刺激量,255表示刺激量最大)
例: R,G,B=255-》白 , R,G,B=0->黑
R=G=B->灰度图,否则彩色图
上面的数值:像素点,横着有282个像素点,竖着有114个像素点
在每个像素点处都是R,G,B三原色的叠加结果
灰色图片(R=G=B)二维矩阵
彩色图片有3个矩阵(R,G,B),三维矩阵
压缩图片具体操作
分别对R,G,B矩阵进行压缩,重新组合压缩后的r,g,b生成图片对象
SVD的评价
**优点:**简化数据,去除噪声点,对数据降维(减少秩);
**适用于数据类型:**数值型。