线性代数

1 行列式

1.1 $n$ 阶行列式

定义 1.1.1：称以下的式子为一个 $n$ 阶行列式：
$$\left|\begin{array}{c}\mathbf{A}\end{array}\right|=\left|\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right|$$

其中第 $i$ 行第 $j$ 列的元素成为行列式 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 的第 $(i,j)$ 元素。
元素 $a_{11},a_{22},\cdots ,a_{nn}$ 称为 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 的主对角线。

性质 1：上三角行列式的值等于其对角线元素之和。
性质 2：行列式某行（列）全为零，则行列式的值等于零。
性质 3：用常数 $c$ 乘以行列式的某一行（列），得到的行列式的值等于原行列式的值的 $c$ 倍。
性质 4：交换行列式不同的两行（列），行列式的值变号。
性质 5：若行列式两行（列）成比例，则行列式的值为零。
性质 6：若行列式中某行（列）元素均为两项之和，则行列式可表示为两个行列式之和。
性质 7：行列式的某一行（列）乘以某个数加到另一行（列）上，行列式的值不变。
性质 8：行列式和其转置有相同的值。

定义 1.1.2：定义元素 $a_{ij}$ 的余子式 $M_{ij}$ 为由其行列式 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 中划去第 $i$ 行第 $j$ 列后剩下的元素组成的行列式。
定义 1.1.3：在行列式 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 中，$a_{ij}$ 的代数余子式定义为：$A_{ij}=(-1{)}^{i+j}{M}_{ij}$，其中 $M_{ij}$ 为 $a_{ij}$ 的余子式。

1.2 行列式的展开

设 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 是 $n$ 阶行列式，元素 $a_{ij}$ 的代数余子式记为 $A_{ij}$，则对任意 $s,r(=1,2,\cdots ,n),s\ne r$ 存在：
$$\begin{gathered} \left|\begin{array}{c}\mathbf{A}\end{array}\right|=\sum _{i=1}^n{a}_{ir}{A}_{ir} \\ \sum _{i=1}^n{a}_{ir}{A}_{is}=0 \end{gathered}$$

1.3 Cramer 法则

设线性方程组：
$$\{\begin{array}{l}{a}_{11}{x}_1+a_{12}{x}_2+\cdots +a_{1n}{x}_n=b_1\\ a_{21}{x}_1+a_{22}{x}_2+\cdots +a_{2n}{x}_n=b_2\\ \cdots \\ a_{n1}{x}_1+a_{n2}{x}_2+\cdots +a_{nn}{x}_n=b_n\end{array}$$
记其系数行列式为 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ ，则：
$$x_1=\frac{\left|\begin{array}{c}{\mathbf{A}}_1\end{array}\right|}{\left|\begin{array}{c}\mathbf{A}\end{array}\right|},x_2=\frac{\left|\begin{array}{c}{\mathbf{A}}_2\end{array}\right|}{\left|\begin{array}{c}\mathbf{A}\end{array}\right|},\cdots ,x_n=\frac{\left|\begin{array}{c}{\mathbf{A}}_n\end{array}\right|}{\left|\begin{array}{c}\mathbf{A}\end{array}\right|}$$

其中 $\left|\begin{array}{c}{\mathbf{A}}_j\end{array}\right|$ 为 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 去掉第 $j$ 列并用 $b_1,b_2,\cdots ,b_n$ 将之替换的 $n$ 阶行列式。

2 矩阵

2.1 矩阵的概念

定义 2.1.1：由 $mn$ 个数 $a_{ij}(i=1,2,\cdots ,m;j=1,2,\cdots n)$ 排成 $m$ 行 $n$ 列的矩形阵列：
$$\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}$$
称为 $m$ 行 $n$ 列矩阵，简称为 $m\times n$ 矩阵（或 $m\times n$ 阵）。

若 $\mathbf{A}$ 的元素全是实数则称 $\mathbf{A}$ 为实矩阵。
若 $\mathbf{A}$ 的元素全是复数则称 $\mathbf{A}$ 为复矩阵。
若所有元素均为 $0$ 则称为零矩阵 $\mathrm{O}$，或 ${\mathrm{O}}_{m\times n}$。
若 $m=n$ 则称为方阵，反之为长方阵。
若方阵 $\mathbf{A}$ 仅存在对角元 $a_{11},a_{22},\cdots ,a_{nn}$ 则简记为 $\mathbf{A}=\mathbf{diag}(a_{11},a_{22},\cdots ,a_{nn})$。
进一步，若 $a_{11}=a_{22}=\cdots =a_{nn}=1$ 则称 ${\mathbf{I}}_{\mathbf{n}}=\mathbf{diag}(1,1,\cdots ,1)$ 为 $n$ 阶单位矩阵。

2.2 矩阵的运算

一、矩阵加减法

定义 2.2.1：设有两个 $m\times n$ 矩阵 $\mathbf{A}=(a_{ij}),\mathbf{B}=(b_{ij})$，定义 $\mathbf{A}+\mathbf{B}$ 是一个 $m\times n$ 矩阵且 $\mathbf{A}+\mathbf{B}$ 的第 $(i,j)$ 元素等于 $a_{ij}+b_{ij}$，即$$\mathbf{A}+\mathbf{B}=(a_{ij}+b_{ij})$$
矩阵的减法可看作矩阵加法的逆运算，即
$$\mathbf{A}-\mathbf{B}=(a_{ij}-b_{ij})$$
定义 2.2.2：定义 $\mathbf{A}=(a_{ij})$ 的负矩阵为 $-\mathbf{A}=(-a_{ij})$，则有 $\mathbf{A}+(-\mathbf{A})=\mathbf{O}$。

矩阵加减法运算规则：

1. 交换律：$\mathbf{A}+\mathbf{B}=\mathbf{B}+\mathbf{A}$。
2. 结合律：$(\mathbf{A}+\mathbf{B})+\mathbf{C}=\mathbf{A}+(\mathbf{B}+\mathbf{C})$。
3. $\mathbf{O}+\mathbf{A}=\mathbf{A}+\mathbf{O}=\mathbf{A}$。
4. $\mathbf{A}+(-\mathbf{B})=\mathbf{A}-\mathbf{B}$。

二、矩阵的数乘

定义 2.2.3：设 $\mathbf{A}$ 是一个 $m\times n$ 矩阵，$\mathbf{A}=(a_{ij}{)}_{m\times n}$，$c$ 是一个常数，定义 $c\mathbf{A}=(c{a}_{ij}{)}_{m\times n}$ 。$c\mathbf{A}$ 称为数 $c\mathbf{A}$ 的数乘。

矩阵的数乘运算规则：

1. $c(\mathbf{A}+\mathbf{B})=c\mathbf{A}+c\mathbf{B}$。
2. $(c+d)\mathbf{A}=c\mathbf{A}+d\mathbf{A}$。
3. $(cd)\mathbf{A}=c(d\mathbf{A})$。
4. $1\cdot \mathbf{A}=\mathbf{A}$。
5. $0\cdot \mathbf{A}=\mathbf{O}$。

三、矩阵的乘法

定义 2.2.4：设有 $m\times k$ 矩阵 $\mathbf{A}=(a_{ij}{)}_{m\times k}$，以及 $k\times n$ 矩阵 $\mathbf{B}=(b_{ij}{)}_{m\times n}$。定义 $\mathbf{A}$ 和 $\mathbf{B}$ 的乘积 $\mathbf{AB}$ 是一个 $m\times n$ 矩阵且 $\mathbf{AB}$ 的第 $(i,j)$ 元素
$$c_{ij}=\sum _{l=1}^k{a}_{il}{b}_{lj}$$

矩阵乘法的运算规则：

1. 结合律：$(\mathbf{AB})\mathbf{C}=\mathbf{A}(\mathbf{BC})$。
2. 左右分配律：$\mathbf{A}(\mathbf{B}+\mathbf{C})=\mathbf{AB}+\mathbf{AC},(\mathbf{A}+\mathbf{B})\mathbf{C}=\mathbf{AB}+\mathbf{BC}$。
3. $c(\mathbf{AB})=(c\mathbf{A})\mathbf{B}=\mathbf{A}(c\mathbf{B})$。
4. 对任意的 $m\times n$ 矩阵 $\mathbf{A}$，${\mathbf{I}}_{\mathbf{m}}\mathbf{A}=\mathbf{A}=\mathbf{A}{\mathbf{I}}_{\mathbf{n}}$。

方阵幂运算规则：

1. ${\mathbf{A}}^r{\mathbf{A}}^s={\mathbf{A}}^{r+s}$。
2. $({\mathbf{A}}^r{)}^s={\mathbf{A}}^{rs}$。

四、矩阵的转置

定义 2.2.5：设 $\mathbf{A}=(a_{ij})$ 是 $m\times n$ 矩阵，定义 $\mathbf{A}$ 的转置 ${\mathbf{A}}^{\mathbf{T}}$ 为一个 $n\times m$ 矩阵，它的第 $k$ 行正好是矩阵 $\mathbf{A}$ 的第 $k$ 列（$k=1,2,\cdots ,n$）；它的第 $r$ 行是 $\mathbf{A}$ 的第 $r$ 行（$r=1,2,\cdots ,n$）。

矩阵转置运算规则：

1. $({\mathbf{A}}^{\mathbf{T}}{)}^{\mathbf{T}}=\mathbf{A}$。
2. $(\mathbf{A}+\mathbf{B}{)}^{\mathbf{T}}={\mathbf{A}}^{\mathbf{T}}+{\mathbf{B}}^{\mathbf{T}}$。
3. $(c\mathbf{A}{)}^{\mathbf{T}}=c{\mathbf{A}}^{\mathbf{T}}$。
4. $(\mathbf{AB}{)}^{\mathbf{T}}={\mathbf{B}}^{\mathbf{T}}{\mathbf{A}}^{\mathbf{T}}$。

五、矩阵的共轭

定义 2.2.6：设 $\mathbf{A}=(a_{ij}{)}_{m\times n}$ 是一个复矩阵，则 $\mathbf{A}$ 的共轭矩阵 $\overline{\mathbf{A}}$ 是一个 $m\times n$ 复矩阵，且
$$\overline{\mathbf{A}}=({\overline{a}}_{ij}{)}_{m\times n}$$

矩阵共轭运算规则：

1. $\overline{\mathbf{A}+\mathbf{B}}=\overline{\mathbf{A}}+\overline{\mathbf{B}}$。
2. $\overline{c\mathbf{A}}=\overline{c}\overline{\mathbf{A}}$。
3. $\overline{\mathbf{AB}}=\overline{\mathbf{A}}\overline{\mathbf{B}}$。
4. $\overline{({\mathbf{A}}^{\mathbf{T}})}=(\overline{\mathbf{A}}{)}^{\mathbf{T}}$。

2.3 方阵的逆阵

定义 2.3.1：设 $\mathbf{A}$ 是 $n$ 阶方阵，若存在一个 $n$ 阶方阵 $\mathbf{B}$，使得：
$$\mathbf{AB}=\mathbf{BA}={\mathbf{I}}_{\mathbf{n}},$$
则称 $\mathbf{B}$ 是 $\mathbf{A}$ 的逆阵，记为 $\mathbf{B}={\mathbf{A}}^{-1}$。凡有逆阵的矩阵称为可逆阵或非奇异阵（简称非异阵），否则称为奇异阵。

矩阵求逆运算规则：

1. 若 $\mathbf{A}$ 是非异阵，则 $({\mathbf{A}}^{-1}{)}^{-1}=\mathbf{A}$。
2. 若 $\mathbf{A},\mathbf{B}$ 都是 $n$ 阶非异阵，则 $\mathbf{AB}$ 也是 $n$ 阶非异阵且 $(\mathbf{AB}{)}^{-1}={\mathbf{B}}^{-1}{\mathbf{A}}^{-1}$。
3. 若 $\mathbf{A}$ 是非异阵，$c$ 是非零数，则 $c\mathbf{A}$ 也是非异阵且 $(c\mathbf{A}{)}^{-1}=c^{-1}{\mathbf{A}}^{-1}$。
4. 若 $\mathbf{A}$ 是非异阵，则 $\mathbf{A}$ 的转置 ${\mathbf{A}}^{\mathbf{T}}$ 也是非异阵且 $({\mathbf{A}}^{\mathbf{T}}{)}^{-1}=({\mathbf{A}}^{-1}{)}^{\mathbf{T}}$。

设 $\mathbf{A}$ 是 $n$ 阶方阵，这个方阵决定了一个 $n$ 阶行列式，记为 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 或 $\det \mathbf{A}$。

定义 2.3.2 ：设 $A$ 是 $n$ 阶方阵，$A_{ij}$ 是行列式 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|$ 中第 $(i,j)$ 元素 $a_{ij}$ 的代数余子式，则称下列方阵为 $\mathbf{A}$ 的伴随阵：
$$\left(\begin{array}{cccc}{A}_{11}& A_{21}& \cdots & A_{n1}\\ A_{12}& A_{22}& \cdots & A_{n2}\\ ⋮& ⋮& \ddots & ⋮\\ A_{1n}& A_{2n}& \cdots & A_{nn}\end{array}\right)$$
$\mathbf{A}$ 的伴随矩通常记为 ${\mathbf{A}}^{\ast }$。

引理 2.3.1：设 $\mathbf{A}$ 为 $n$ 阶方阵，${\mathbf{A}}^{\ast }$ 为 $\mathbf{A}$ 的伴随矩，则
$$\mathbf{A}{\mathbf{A}}^{\ast }={\mathbf{A}}^{\ast }\mathbf{A}=\left|\begin{array}{c}\mathbf{A}\end{array}\right|\cdot {\mathbf{I}}_{\mathbf{n}}$$

定理 2.3.1：若 $\left|\begin{array}{c}\mathbf{A}\end{array}\right|\ne 0$，则 $\mathbf{A}$ 是一个非异阵，且
$${\mathbf{A}}^{-1}=\frac{1}{\left|\begin{array}{c}\mathbf{A}\end{array}\right|}{\mathbf{A}}^{\ast }$$

2.4 矩阵的初等变换与初等矩阵

定义 2.4.1：下列三种矩阵变换分别称为矩阵的第一类、第二类、第三类初等行（列）变换：

1. 对调矩阵中某两行（列）的位置；
2. 用一非零常数 $c$ 乘以矩阵的某一行（列）；
3. 将矩阵的某一行（列）乘以常数 $c$ 后加到另一行（列）上去。

上述 $3$ 种变换统称为矩阵的初等变换。

2.5 初等变换法求逆阵

众所周知，用伴随阵求非异阵的逆阵是相当麻烦的，有没有什么更加强势的做法推荐一下：
有的兄弟有的：
$$\begin{gathered} {\mathbf{A}}^{-1}\mathbf{A}={\mathbf{I}}_{\mathbf{n}} \\ {\mathbf{A}}^{-1}={\mathbf{A}}^{-1}{\mathbf{I}}_{\mathbf{n}} \end{gathered}$$
上述和式子启发我们可以这样求逆阵：

考虑一个 $n\times 2n$ 的矩阵 $(\mathbf{A}{\mathbf{I}}_{\mathbf{n}})$，这个矩阵的前 $n$ 列为 $\mathbf{A}$，后 $n$ 列为 ${\mathbf{I}}_{\mathbf{n}}$。对矩阵 $(\mathbf{A}{\mathbf{I}}_{\mathbf{n}})$ 进行初等变换把 $\mathbf{A}$ 变成 ${\mathbf{I}}_{\mathbf{n}}$，这时右边的 ${\mathbf{I}}_{\mathbf{n}}$ 就变成了 ${\mathbf{A}}^{-1}$。

2.6 矩阵的秩

定义 2.6.1：在 $m\times n$ 矩阵 $\mathbf{A}$ 中，任取 $k$ 行 $k$ 列（$k⩽m,k⩽n$），位于这些行列交叉处的 $k^2$ 个元素，不改变他们在 $\mathbf{A}$ 中所处的位置次序二得的 $k$ 阶行列式，称为矩阵 $\mathbf{A}$ 的 $k$ 阶子式。

定义 2.6.2：设在矩阵 $\mathbf{A}$ 中有一个不等于 $0$ 的 $r$ 阶子式 $\mathbf{D}$，且所有 $r+1$ 阶子式（如果存在的话）全等于 $0$，则 $\mathbf{D}$ 称为矩阵 $\mathbf{A}$ 的最高阶非零子式，数 $r$ 称为矩阵 $\mathbf{A}$ 的秩，记作 $\text{R}(\mathbf{A})$。并规定零矩阵的秩为 $0$。

3 向量组的线性相关性

3.1 向量组及其线性组合

定义 3.1.1：$n$ 个有次序的数 $a_1,a_2,\cdots ,a_n$ 所组成的数组称为 $n$ 维向量，这 $n$ 个数称为该向量的 $n$ 个分量，第 $i$ 个数 $a_i$ 称为第 $i$ 个分量。

定义3.1.2：给定向量组 $A:{\mathbf{a}}_1,{\mathbf{a}}_2,\cdots ,{\mathbf{a}}_m$，对于任何一组实数 $k_1,k_2,\cdots ,k_m$，表达式 $$\sum _{i=1^m{k}_i{\mathbf{A}}_i}$$称为向量组 $A$ 的一个线性组合，$k_1,k_2,\cdots ,k_n$ 称为这个线性组合的系数。

3.2 向量组的线性相关性