《线性代数》学习笔记

本节从之前学习的子空间开始，介绍了子空间的部分性质。并重点介绍了列空间与方程Ax = b之间的联系。并由此引出了零空间，根据 Ax = b这个方程给出了两种构建子空间的方法。

1. 子空间

1.1 子空间概述

首先明确，子空间必须对线性运算封闭。我们从一个简单的向量空间：𝑅3空间开始。其图像如下，整个三维空间皆为𝑅³空间。

𝑅³的子空间就是如下三个：穿过原点的无限延伸的平面P、穿过原点的无限延伸的直线L、Z原点。其中子空间必须包含原点（零向量）；

空间直线 L 或平面 P 上，任取两个向量相加，得到的向量仍在该子空间中。而且将其上的向量做数乘伸长或缩短一定倍数，其结果也还在该子空间中。所以它们都对线性运算封闭。

1.2 子空间的“交”与“并”

上面都是分别研究的两个子空间，接下来对两个空间之间联系部分展开讨论：

1.2.1 P∪L 空间 

还是讨论上面𝑅³的子空间P与L，首先要研究的就是它们的并空间，即：现有一集合包含了P与L中的所有向量，那么这个集合是子空间吗？

很明显，我们将直线L与平面P看做同一个集合P∪L之后,这个集合对线性运算并不封闭。比如我们随便在直线L上取一个向量a，在平面P上取一个向量b。此时向量a+b方向就会夹在直线L与平面P之间，脱离了P∪L的范围。所以P∪L无法构成空间。

1.2.2 P∩L 空间 

如果看的是两个子空间的交集，那么上面那个𝑅³的例子再合适不过了。因为平面P与直线L相交的部分只有一个地方也就是原点，原点显然是𝑅³的子空间之一。 如果推广到任意两个子空间的交呢？

假设现在有子空间 S 和 T，问其交集S∩T是否为子空间？ 抽象层面上来看，S∩T集合是比 S，T限制条件更多的集合，相当于一个更小的集合，限制更严格的集合，所以 S∩T 势必满足原本 S 和 T 的条件，所以可以构成一个子空间。 严格证明(对线性运算封闭)思路如下： 

（1）加法封闭：在S∩T中取v，w向量，单看S空间，v w均在S空间里，由于S子空间，对线性运算封闭，故v+w也在S中；再单看T空间，将上面的步骤中的S换成T，也可以得v+w在T空间中。这就说明v+w在S∩T中。所以S∩T对向量加法封闭。 

（2）数乘封闭：在S∩T中取a向量，a在S空间中，所以n倍的a仍在S空间中。a也在T空间中，故n倍的a也在T空间中。 也就是n倍的a仍在S∩T中。S∩T对数乘运算也是封闭的。

2. 列空间

2.1 列空间回顾

现在有矩阵：

$$
A=\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right] \text {, 矩阵的列向量 }\left[\begin{array}{l}
1 \\
2 \\
3 \\
4
\end{array}\right],\left[\begin{array}{l}
1 \\
1 \\
1 \\
1
\end{array}\right],\left[\begin{array}{l}
2 \\
3 \\
4 \\
5
\end{array}\right]
$$

矩阵的列向量均为R⁴中的四维向量，所以A 的列空间是𝑹^𝟒的子空间。

除了[1 2 3 4]，[1 1 1 1]，[2 3 4 5]三个列向量。列空间里还包含着它们的各种线性组合。A的列空间是由三个列向量展开的一个子空间。关于讨论这个子空间的大小相关问题，则需要使用 Ax=b 方程来解释。

2.2 Ax = b的空间解释(从 A的角度)

还是取

$$
A=\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right]
$$

假设有一个方程 Ax = b如下：

$$
\mathrm{Ax}=\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right]\left[\begin{array}{l}
x_1 \\
x_2 \\
x_3
\end{array}\right]=\left[\begin{array}{l}
b_1 \\
b_2 \\
b_3 \\
b_4
\end{array}\right]=\mathrm{b}
$$

第一个问题；这个方程是否始终有解？

Ax 的本质就是对A的列向量进行线性组合：

$$
\mathrm{Ax}=\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right]\left[\begin{array}{l}
x_1 \\
x_2 \\
x_3
\end{array}\right]=x_1\left[\begin{array}{l}
1 \\
2 \\
3 \\
4
\end{array}\right]+x_2\left[\begin{array}{l}
1 \\
1 \\
1 \\
1
\end{array}\right]+x_3\left[\begin{array}{l}
2 \\
3 \\
4 \\
5
\end{array}\right]
$$

可以认为，Ax代表着A的列空间。 显然，三个四维向量的线性组合是无法铺满整个四维空间的，就如同两个三维向量无法张开一个三维空间一样。所以，这里的Ax只能是𝑅⁴空间的部分子空间，也就是说，无法保证任意一个四维向量

$$
\mathrm{b}=\left[\begin{array}{l}
b_1 \\
b_2 \\
b_3 \\
b_4
\end{array}\right] \in R^4
$$

都能找到 A列向量的一种线性组合，使 Ax = b。

第二个问题：什么样的b可以使方程Ax = b有解？

Ax就表示着A列向量的所有线性组合，也就是A的列空间。上面的2.1中提到过，A的列空间就是𝑅⁴的一个子空间，所以对于一个四维向量b，只要b在“A 的列空间”这个𝑅⁴的子空间中，那么就可以找到一种A列向量的线性组合来构成b。也就是使得 Ax = b有解。

第三个问题：能否去掉 A的一列，却不影响 A的列空间呢？

先看看这三个列向量：

$$
\left[\begin{array}{l}
1 \\
2 \\
3 \\
4
\end{array}\right],\left[\begin{array}{l}
1 \\
1 \\
1 \\
1
\end{array}\right],\left[\begin{array}{l}
2 \\
3 \\
4 \\
5
\end{array}\right]
$$

显然第三列[2 3 4 5]可以写成前两列的线性组合：[2 3 4 5] = [1 2 3 4] + [1 1 1 1]。也就是说这第三列对线性组合没有贡献。所以我们仅仅依靠前两列的线性组合就可以构成A的列空间。我们称[1 2 3 4]， [1 1 1 1]这样的列为主列。 所以去掉第三列，并不影响A的列空间的构成。

3. 零空间

3.1 零空间介绍

所谓零空间，就是 Ax = 0 的所有解所构成的一个空间。还是以A为例，其零空间就是下面这个方程的解构成的空间：

$$
A x=\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right]\left[\begin{array}{l}
x_1 \\
x_2 \\
x_3
\end{array}\right]=\left[\begin{array}{l}
0 \\
0 \\
0 \\
0
\end{array}\right]=0
$$

也就是 x = [𝑥1 𝑥2 𝑥3]^T，可以看到x有三个分量，所以其零空间是𝑅³的子空间。对于m*n的矩阵来说，列空间是𝑅𝑚的子空间，零空间是𝑅𝑛的子空间。

列空间关键在于列向量的维数，零空间的关键在于列向量的个数。首先来验证这样的[𝑥1 𝑥2 𝑥3]为什么能构成向量空间？

• 加法封闭：在此零空间中任取两向量v，w，有Av = Aw = 0，很显然 A(v+w) = 0，所以(v+w)也属于零空间，加法封闭得证。

• 数乘封闭：在此零空间中任取向量v， Av = 0，则cAv=0。矩阵 A与常数c位置可交换，所以 A(cv) = 0。所以cv也在零空间中。数乘运算封闭得证。

【例】求上面 A 的零空间。

我们讨论过，这个A的第三列可以写成前两列的线性组合，所以可以写出令Ax = 0的一个解: [ 1 1 −1]^T，而其零空间即为：C[ 1 1 −1]^T（C 表示任意常数）。反映在图像上，就是𝑅³中的一条穿过原点的直线。

3.2 Ax = b的空间解释(从 x的角度)

那如果上面构造零空间的方程右侧变为任意向量的话，其解集 x还能构成向量空间吗？如：

$$
\left[\begin{array}{lll}
1 & 1 & 2 \\
2 & 1 & 3 \\
3 & 1 & 4 \\
4 & 1 & 5
\end{array}\right]\left[\begin{array}{l}
x_1 \\
x_2 \\
x_3
\end{array}\right]=\left[\begin{array}{l}
1 \\
2 \\
3 \\
4
\end{array}\right]
$$

这样的所有x构成的解集还是向量空间吗？显然不是。将[𝑥₁ 𝑥₂ 𝑥₃] = [0 0 0]代入，其显然不是这个方程的解，就是说明这个解集里根本没有零向量。

任何一个向量集合中必须要有零向量。就是说明这个解集连最基本的要求都无法满足，构不成向量空间。反映在图像上，这里所有的[𝑥1 𝑥2 𝑥3]其实构成的是一个不过原点的平面。

想从x的角度研究Ax = b这个方程，则只有b是零向量时，x才能构成空间（零空间），其他情况中连零向量都不在解集中，更别谈向量空间了。

这一课我们学习了列空间与零空间.从 Ax = b入手，给出了两种构建子空间的方法：

1. 从A的列向量入手，已知列向量，根据其线性组合构造空间。

2. 从Ax = 0方程组入手，一开始并不知道 x中有什么向量，只是根据Ax = 0 这个方程构造方程组，让 x满足特定条件来构造子空间。

这两种构造子空间的方法需要掌握。其实就是一个从 A 的列向量入手，一个从x的解集入手构建子空间的问题。

2024-07-30