《线性代数》学习笔记

这一节中首先完善之前讲到的逆矩阵内容，然后使用消元矩阵介绍 A 的 LU 分解，即：将矩阵 A分解为矩阵L与上三角矩阵 U，介绍这种运算的普遍规律。最后再一次提起了之前介绍过的“行交换矩阵”，引入置换矩阵概念。

1.逆矩阵性质补充

首先考虑一个问题：方阵 A，B 都是可逆矩阵的话，AB的逆矩阵是什么呢？这个问题并不复杂，想求出逆矩阵，无非就是令AB*逆矩阵 = I，而我们不难想到，𝐴𝐵𝐵⁻¹𝐴⁻¹ = I。所以有：(𝐴𝐵)⁻¹= 𝐵⁻¹𝐴⁻¹

转置矩阵：转置矩阵就是将原矩阵各行换成对应列，所得到的新矩阵，如：

$$
 \begin{equation}
A = \begin{bmatrix}
1 & 3 \\
2 & 3 \\
4 & 1 \\
\end{bmatrix}
\quad
A^T = \begin{bmatrix}
1 & 2 & 4 \\
3 & 3 & 1 \\
\end{bmatrix}
\end{equation}

 $$

介绍完了转置矩阵的基础，接下来看一看它和逆矩阵有什么联系。说到逆矩阵，最经典的式子无非就是：A𝐴⁻¹= I。为了找到转置矩阵𝐴^𝑇与逆矩阵𝐴⁻¹间的关系，对A𝐴⁻¹= I两边同时进行转置运算，得到：

(A𝐴⁻¹)^𝑇 = (𝐴⁻¹)^𝑇𝐴^𝑇 = I

再观察此式：(𝐴⁻¹)^𝑇𝐴^𝑇 = I，由于 A 是方阵，则𝐴^𝑇定然也是方阵，发现意外得到了𝐴^𝑇的逆矩阵。即为(𝐴⁻¹)^𝑇。也就是说：

(𝐴𝑇)⁻¹ = (𝐴⁻¹)^𝑇

对于单个矩阵，转置与取逆两个运算顺序可颠倒。

2. A 的LU分解

假设我们有一个可逆矩阵 𝐴，通过初等行变换得到上三角矩阵 𝑈，我们可以说一定存在某种形式的矩阵乘法，比如𝐸₂₁⋅𝐴=𝑈，让 𝐴相当于进行了初等行变换变成 𝑈。由于 𝐸₂₁ 这样的矩阵有逆矩阵（毕竟它就是单位阵的变形），所以原式可以改写成𝐴=𝐸₂₁⁻¹⋅𝑈。这就是 𝐴=𝐿𝑈分解的过程。

那么矩阵 L是不是有什么特殊之处呢？

这就给了我们一个大启示：在使用 A = LU 分解矩阵的时候，我们只需要从 U 入手，反过来琢磨如何通过行变换将上三角矩阵 U 变成 A。然后再将单位阵按这个套路变化，就得到了 L 矩阵。这个特性让 A = LU 分解矩阵拥有一个无敌优点——我们甚至不需要知道那些繁琐的值具体是什么，只要掌握变换的套路，就能轻松求出 L，写出 A = LU 等式。

那么现在有一个额外问题，就是消元的运算量问题：想象一下，我们有一个100x100的超级大矩阵（而且每个元素都不是0）。我们需要做多少次运算（每次运算指将一行乘以一定倍数后加到另一行上）才能把它变成上三角矩阵U呢？

先从列的角度进行考虑，第一列消元运算结束之后，矩阵将会变为：

\begin{bmatrix}
1 & \cdots & \cdots & \cdots \\
0 & \cdots & \cdots & \cdots \\
0 & \cdots & \cdots & \cdots \\
\vdots & \cdots & \cdots & \cdots \\
0 & \cdots & \cdots & \cdots \\
\end{bmatrix}

这一步中，第一列的元素运算了 100 次，而第一行一共有100个元素，于是仅第一行与第一列的消元结束后，我们就运算了100²次。之后我们要研究的就变成了剩下的 99*99的矩阵。以此类推，可知，最后的运算量为：∑_k=1ⁿ 𝑘²

可以看做黎曼和，所以我们可以采用积分来估计和：

$$
\sum_{k=1}^{n} k^2 = \int x^2 \, dx
$$

3. 置换矩阵

行变换用到的矩阵，也就是单位阵 ( I ) 经过特定行变换后得到的矩阵，可以实现矩阵行的交换，用于代替手动的行变换。这在消元过程中尤其重要，比如当我们在进行高斯消元法时，发现主元位置上是0，就需要通过行变换来将这个主元位置换成非零数。

这些由单位阵经过变换得到的矩阵，通过矩阵乘法可以交换矩阵的行，我们称之为置换矩阵 ( P )。这些置换矩阵是线性代数中的魔法工具，不仅让行变换变得容易，还能在瞬间让你的矩阵行如虎添翼。下面我们通过一个例子来看看置换矩阵的神奇之处。

这可以理解为一个群，很明显，我们任取两个矩阵相乘，结果仍在这个群中。

推广到 n 阶矩阵，n 阶矩阵有 n！个置换矩阵，就是将单位矩阵 I各行重新排列后所有可能的情况数量。我自己的理解是：单看第一行，有 n种排列方式，再看除去第一行，第一列的(n-1)阶矩阵，再看其第一行，有(n-1)种排列方式。以此类推，直到最后的 1 阶，有 1 种排列方式，由乘法原理，就有了 n!个置换矩阵。

线性代数的前面这部分基本是一些技巧的运算。本节我们对矩阵的转置，逆矩阵性质进行了部分介绍，学习了矩阵的 A = LU 分解，了解了这种分解方式的优点所在，并学会了直接构造 L 矩阵，简化消元过程。

2024-07-24