线性代数|机器学习-P5特征值和特征向量

文章目录

  • 1. 特征值和特征向量
    • 1.1 特征向量
    • 1.2 向量分解
  • 2. 矩阵相似
    • 2.1 特征值求解法-相似
    • 2.2 特殊特征值
    • 2.3 反对称矩阵
  • 3.对称矩阵

1. 特征值和特征向量

1.1 特征向量

假设有一个n行n列的方阵A,有 n 个不相同的特征值为 λ \lambda λ,特征向量为 x 1 , x 2 , ⋯   , x n x_1,x_2,\cdots,x_n x1,x2,,xn.等式如下:
A x i = λ i x i , i = 1 , ⋯   , n → A 2 x = λ 2 x \begin{equation} Ax_i=\lambda_ix_i,i=1,\cdots,n\rightarrow A^2x=\lambda^2x \end{equation} Axi=λixi,i=1,,nA2x=λ2x

  • 特征向量的好处在于,对于向量x来说, A x = λ x Ax=\lambda x Ax=λx,通过左乘矩阵A,还是不改变向量的方向,只是按照 λ \lambda λ倍进行缩放。
    A k x = λ k x \begin{equation} A^kx=\lambda^kx \end{equation} Akx=λkx
  • 对于微分方程来说
    d u d t = A u , e A t = e λ t \begin{equation} \frac{\mathrm{d}u}{\mathrm{d}t}=Au,\mathrm{e}^{At}=\mathrm{e}^{\lambda t} \end{equation} dtdu=AueAt=eλt
  • 通解表示如下:
    u ( t ) = S e Λ t S − 1 u ( 0 ) = e A t u ( 0 ) \begin{equation} u(t)=Se^{\Lambda t} S^{-1} u(0)=e^{At}u(0) \end{equation} u(t)=SeΛtS1u(0)=eAtu(0)

1.2 向量分解

假设矩阵A有n个线性无关的特征向量,那么对于任意矩阵v来说,可以分解为特征向量的线性组合
v = c 1 x 1 + c 2 x 2 + ⋯ + c n x n \begin{equation} v=c_1x_1+c_2x_2+\cdots+c_nx_n \end{equation} v=c1x1+c2x2++cnxn

  • 两边同时乘以 A k , A k x = λ k x A^k,A^{k}x=\lambda^kx Ak,Akx=λkx:
    A k v = c 1 λ 1 k x 1 + c 2 λ 2 k x 2 + ⋯ + c n λ n k x n \begin{equation} A^{k}v=c_1\lambda_1^{k}x_1+c_2\lambda_2^{k}x_2+\cdots+c_n\lambda_n^{k}x_n \end{equation} Akv=c1λ1kx1+c2λ2kx2++cnλnkxn
  • 特征向量在差分方程上的应用
    u k + 1 = A u k → u k = A k u 0 = λ k x u 0 \begin{equation} u_{k+1}=Au_k\rightarrow u_k=A^ku_0=\lambda^kxu_0 \end{equation} uk+1=Aukuk=Aku0=λkxu0

2. 矩阵相似

2.1 特征值求解法-相似

假设我们有两个矩阵A,B如果存在一个可逆矩阵M,满足如下关系,可推出A相似于B
B = M − 1 A M → B ∼ A → A 和 B 有相同的特征值 \begin{equation} B=M^{-1}AM\rightarrow B\sim A\rightarrow A和B有相同的特征值 \end{equation} B=M1AMBAAB有相同的特征值

  • 假设矩阵A的特征值为 λ \lambda λ,特征向量为x,
    ∣ B − λ I ∣ = ∣ M − 1 A M − λ I ∣ = ∣ M − 1 A M − M − 1 λ M ∣ = ∣ M − 1 ∣ ∣ A − λ I ∣ ∣ M ∣ = ∣ A − λ I ∣ \begin{equation} |B-\lambda I|=|M^{-1}AM-\lambda I|=|M^{-1}AM-M^{-1}\lambda M|=|M^{-1}||A-\lambda I||M|=|A-\lambda I| \end{equation} BλI=M1AMλI=M1AMM1λM=M1∣∣AλI∣∣M=AλI
  • 所以可得如下:
    B ∼ A ⇒ λ A = λ B \begin{equation} B \sim A \Rightarrow \lambda_A=\lambda_B \end{equation} BAλA=λB
  • Matlab中如何求解特征值
    对于给定的矩阵A来说,我们用一个可逆矩阵 M 1 M_1 M1右乘矩阵A,左乘 M 1 − 1 M_1^{-1} M11,使得矩阵A逐渐变成上三角矩阵,通过不断地左右乘 M 1 , M 2 M1,M2 M1,M2,最后得到一个上三角矩阵B,这样我们就通过相似的形式得到主对角线上的特征值了。
    B = ( M n ⋯ M 2 M 1 ) − 1 A ( M n ⋯ M 2 M 1 ) → B U p T r i a n g l e ∼ A → A 和 B 有相同的特征值 \begin{equation} B={(M_n\cdots M_2M_1)}^{-1}A{(M_n\cdots M_2M_1)}\rightarrow B_{UpTriangle}\sim A\rightarrow A和B有相同的特征值 \end{equation} B=(MnM2M1)1A(MnM2M1)BUpTriangleAAB有相同的特征值

2.2 特殊特征值

假设我们有两个矩阵A,B,令AB的特征值为 λ A B \lambda_{AB} λAB,特征向量为x,令BA的特征值为 λ B A \lambda_{BA} λBA,证明 λ A B = λ B A \lambda_{AB}=\lambda_{BA} λAB=λBA

  • 根据定义可得:
    A B x = λ A B x \begin{equation} ABx=\lambda_{AB}x \end{equation} ABx=λABx
  • 两边同时乘以B可得:
    B A B x = λ A B B x → ( B A ) ( B x ) = λ A B ( B x ) → λ A B = λ B A \begin{equation} BABx=\lambda_{AB}Bx\rightarrow (BA)(Bx)=\lambda_{AB}(Bx)\rightarrow \lambda_{AB}=\lambda_{BA} \end{equation} BABx=λABBx(BA)(Bx)=λAB(Bx)λAB=λBA

2.3 反对称矩阵

假设我们有一个矩阵A表示如下:
A = [ 0 1 − 1 0 ] → A T = − A \begin{equation} A=\begin{bmatrix} 0&1\\\\ -1&0 \end{bmatrix}\rightarrow A^T=-A \end{equation} A= 0110 AT=A

  • 矩阵A实现的功能是将向量x顺时针旋转90°。
    在这里插入图片描述
  • 求矩阵A的特征值和特征向量如下:
    λ 1 = i , v 1 = [ 1 i ] ; λ 2 = − i , v 1 = [ 1 − i ] ; S = [ 1 1 i − i ] ; Λ = [ i 0 0 − i ] ; \begin{equation} \lambda_1=i,v_1=\begin{bmatrix}1\\\\i\end{bmatrix};\lambda_2=-i,v_1=\begin{bmatrix}1\\\\-i\end{bmatrix};S=\begin{bmatrix}1&1\\\\i&-i\end{bmatrix};\Lambda=\begin{bmatrix}i&0\\\\0&-i\end{bmatrix}; \end{equation} λ1=i,v1= 1i ;λ2=i,v1= 1i ;S= 1i1i ;Λ= i00i ;
  • 分解A如下:
    A = S Λ S − 1 ⇒ [ 0 1 − 1 0 ] = [ 1 1 i − i ] [ i 0 0 − i ] [ 1 1 i − i ] − 1 ; \begin{equation} A=S\Lambda S^{-1}\Rightarrow \begin{bmatrix}0&1\\\\-1&0\end{bmatrix}=\begin{bmatrix}1&1\\\\i&-i\end{bmatrix}\begin{bmatrix}i&0\\\\0&-i\end{bmatrix}\begin{bmatrix}1&1\\\\i&-i\end{bmatrix}^{-1}; \end{equation} A=SΛS1 0110 = 1i1i i00i 1i1i 1;

3.对称矩阵

对称矩阵具有实数特征值和正交的特征向量。我们定义矩阵A如下:
A = [ 0 1 1 0 ] → λ 1 = 1 , v 1 = [ 1 1 ] ; λ 2 = − 1 , v 2 = [ − 1 1 ] ; \begin{equation} A=\begin{bmatrix}0&1\\\\1&0\end{bmatrix}\rightarrow \lambda_1=1,v_1=\begin{bmatrix}1\\\\1\end{bmatrix};\lambda_2=-1,v_2=\begin{bmatrix}-1\\\\1\end{bmatrix}; \end{equation} A= 0110 λ1=1,v1= 11 ;λ2=1,v2= 11 ;

  • 可得如下:
    A = S Λ S − 1 → [ 0 1 1 0 ] = [ 1 1 1 − 1 ] [ 1 0 0 − 1 ] [ 1 1 1 − 1 ] − 1 \begin{equation} A=S\Lambda S^{-1}\rightarrow \begin{bmatrix}0&1\\\\1&0\end{bmatrix}= \begin{bmatrix}1&1\\\\1&-1\end{bmatrix}\begin{bmatrix}1&0\\\\0&-1\end{bmatrix}\begin{bmatrix}1&1\\\\1&-1\end{bmatrix}^{-1} \end{equation} A=SΛS1 0110 = 1111 1001 1111 1

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/677234.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Llama.cpp大模型量化简明手册

大型语言模型 (LLM),尤其是像 Mixtral 8x7b(467 亿个参数)这样的大型模型,对内存的要求非常高。当你尝试降低推理成本、提高推理速度或在边缘设备上进行推理时,这种内存需求就会变得明显。解决此问题的一个潜在方法是量…

一款小众清新的Typecho主题

源码介绍 DearLicy主题,一款小众化小清新风格的博客主题 主题支持Typecho所支持的所有版本PHP 简约、小众、优雅 源码截图 安装教程 将主题上传至/usr/themes/文件夹下解压后台进行启用访问前台查看效果 源码下载 https://www.qqmu.com/3378.html

网络编程(八)

网络编程(八) 数据库数据库的分类基于嵌入式的数据库什么是SQLite?为什么使用SQLite?sqlite3数据库的安装 sqlite3中的点命令.open 数据库文件名字.tables [数据库文件名].schema 表名.database.quit.head on.mode column SQLite数据库中的数据类型SQL…

JAVA设计模式-策略模式及在Springboot2.X中写法

JAVA设计模式-策略模式及在Springboot2.X中写法 一、经典的策略模式写法二、Springboot2.X中策略模式写法 策略模式的定义:策略模式是一种行为型设计模式,定义了一系列算法,并将每个算法封装起来,使它们可以互相替换 策略模式:在策略模式(Str…

【已解决】记录Vue2.x中npm install下载依赖报错:python2 Error: not found: python2问题(具体操作步骤)

项目场景: 项目场景:在项目开发中,升级了本地node版本后,重新npm install下载依赖报错找不到python环境 not found: python2 npm ERR! gyp verb check python checking for Python executable “python2” in the PATH 在尝试了各…

k8s——pod集群调度及相关操作

一、集群调度概念 1.1 调度约束(List-Watch) Kubernetes是通过List-Watch的机制进行每个组件的协作,保持数据同步的,每个组件之间的设计实现了解耦。 用户是通过kubectl根据配置文件,向APIServer发送命令,在…

进入mysql报错:bash:/bin/mysql:没有那个文件或目录

问题分析: 有可能把/bin下面的mysql文件删除 解决方案: 卸载已安装MySQL,重新安装一遍 卸载步骤: 在CentOS系统中卸载MySQL可以通过以下步骤进行: 1、停止MySQL服务: sudo systemctl stop mysqld 2…

QT 音乐播放器【二】 歌词同步+滚动+特效

文章目录 效果图概述代码解析歌词歌词同步歌词特效 总结 效果图 概述 先整体说明一下这个效果的实现,你所看到的歌词都是QGraphicsObject,在QGraphicsView上绘制(paint)出来的。也就是说每一句歌词都是一个图元(item)。 为什么用QGraphicsView框架&…

【JS实战02】轮播图

一&#xff1a;HTML页面结构 1 整体外观 2 HTML结构以及CSS样式 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0">…

HTML静态网页成品作业(HTML+CSS)—— 美食湘菜介绍网页(5个页面)

&#x1f389;不定期分享源码&#xff0c;关注不丢失哦 文章目录 一、作品介绍二、作品演示三、代码目录四、网站代码HTML部分代码 五、源码获取 一、作品介绍 &#x1f3f7;️本套采用HTMLCSS&#xff0c;未使用Javacsript代码&#xff0c;共有5个页面。 二、作品演示 三、代…

ROS2从入门到精通4-3:全局路径规划插件开发案例(以A*算法为例)

目录 0 专栏介绍1 路径规划插件的意义2 全局规划插件编写模板2.1 构造规划插件类2.2 注册并导出插件2.3 编译与使用插件 3 全局规划插件开发案例(A*算法)常见问题 0 专栏介绍 本专栏旨在通过对ROS2的系统学习&#xff0c;掌握ROS2底层基本分布式原理&#xff0c;并具有机器人建…

基于WPF开发动态可交互混淆矩阵

最近在项目中&#xff0c;为了算法结果的可视化&#xff0c;需要用到混淆矩阵(Confusion Matrix)&#xff0c;而网上资源大多是基于Python绘制的混淆矩阵&#xff0c;并且是输出图片格式&#xff0c;并不能响应用户点击&#xff0c;今天以一个简单的小例子&#xff0c;简述如何…

正序输入一串数,倒序输出,c语言

正序输入一串数&#xff0c;倒序输出 #include <stdio.h> int main () {int i,a[5]; for(i0;i<5;i) {scanf("%d",&a[i]);} for(i4;i>0;i--) {printf("%d",a[i]);} printf("\n"); return 0; } 运行结果

三分钟“手撕”队列与习题

代码放开头&#xff0c;方便大家查阅 目录 一、实现代码 二、什么是队列 三、队列常见方法 入队push&#xff08;&#xff09; 出队 四、Queue使用 Java自带的Queue 双端队列 五、习题 循环队列 用队列实现栈 用栈实现队列 一、实现代码 package demo2;publi…

【leetcode10-21】子串、普通数组、矩阵

子串 560.和为K的子数组【没理解】 什么是前缀和&#xff1a;前缀和指一个数组的某下标之前的所有数组元素的和&#xff08;包含其自身&#xff09; 通常&#xff0c;会在前缀和首位放一个0。比如数组[1,2,3。其前缀和是[0,1,3,6] 前缀和通常可以帮助我们快速计算某个区间内的…

【控制实践——四旋翼无人机】【一】四旋翼无人机运动分析和建模

传送门 系列博客前言坐标系定义及姿态位置描述坐标系定义姿态描述及坐标系变换 受力分析牛顿-欧拉方程状态空间方程总结 系列博客 前言 在C站摸爬滚打一段时间后&#xff0c;发现控制类相关的圈子较小&#xff08;话题热度低&#xff09;&#xff0c;想顺便跟各位同行读者了解…

Netty是什么?深入理解高性能网络框架

Netty是什么&#xff1f;——深入理解高性能网络框架 引言 在现代互联网应用中&#xff0c;网络通信是不可或缺的一部分。无论是构建微服务架构、游戏服务器、实时通信系统还是物联网应用&#xff0c;高效稳定的网络编程框架都是成功的关键。Netty&#xff0c;作为一款高性能…

项目:仿RabbitMQ实现的消息队列组件

文章目录 写在前面开源仓库和项目上线其他文档说明 需求分析BrokerServer交换机类型持久化消息应答 模块划分服务端模块客户端模块交换机数据管理模块队列数据管理模块绑定数据管理模块消息数据管理模块队列信息管理模块虚拟机数据管理模块路由匹配模块消费者管理模块信道管理模…

HTML+CSS+JS 选项卡导航栏

效果演示 实现了一个导航栏切换内容的效果。页面上方有一个导航栏,每个导航项都有一个圆形背景,点击导航项时,圆形背景会放大并显示对应的内容。每个内容区域都包含一个大号字母,数字会在内容区域显示时淡入。点击其他导航项时,当前内容区域会淡出并隐藏,同时新的内容区域…

[数据集][目标检测]csgo头部身体检测数据集VOC+YOLO格式1265张4类别

数据集格式&#xff1a;Pascal VOC格式YOLO格式(不包含分割路径的txt文件&#xff0c;仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数)&#xff1a;1265 标注数量(xml文件个数)&#xff1a;1265 标注数量(txt文件个数)&#xff1a;1265 标注…