线性代数中的零空间（Null Space）详解

1. 定义

零空间（Null Space）是线性代数中的一个核心概念。对于一个 $m\times n$ 的矩阵 $A$，其零空间是所有满足方程 $A\mathbf{x}=0$ 的向量 $\mathbf{x}$ 的集合。数学上表示为：
Null ( A ) = { x ∈ R n ∣ A x = 0 } . \text{Null}(A)=\left\{\mathbf{x}\in\mathbb{R}^n \mid A\mathbf{x}=\mathbf{0} \right\}. Null(A)={x∈Rn∣Ax=0}.
其中，$\mathbf{x}$ 是 $n$ 维列向量，$0$ 是 $m$ 维零向量。零空间中的每个向量 $\mathbf{x}$ 都是线性方程组 $A\mathbf{x}=0$ 的解。

2. 核心性质

• 线性子空间：零空间是一个向量空间的子集，且满足以下条件：
  1. 包含零向量：显然 $A0=0$，因此零向量 $0$ 属于零空间。
  2. 加法封闭性：若 $\mathbf{u},\mathbf{v}\in \text{Null}(A)$，则 $A(\mathbf{u}+\mathbf{v})=A\mathbf{u}+A\mathbf{v}=0+0=0$，即 $\mathbf{u}+\mathbf{v}\in \text{Null}(A)$。
  3. 数乘封闭性：若 $\mathbf{u}\in \text{Null}(A)$ 且 $c\in \mathbb{R}$，则 $A(c\mathbf{u})=cA\mathbf{u}=c0=0$，即 $c\mathbf{u}\in \text{Null}(A)$。

3. 求解零空间的步骤

要找到矩阵 $A$ 的零空间，需解齐次方程组 $A\mathbf{x}=0$。具体步骤如下：

1. 将矩阵 $A$ 化为行最简阶梯形（RREF）。
2. 确定主元列和自由列：主元列对应的变量是主元变量，自由列对应的变量是自由变量。
3. 用自由变量表示主元变量：将每个自由变量设为任意常数（如 $t_1,t_2,\dots$），并求解主元变量。
4. 构造零空间的基：每个自由变量对应一个基向量，将所有基向量组合即为零空间。

示例：
考虑矩阵 $A=\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)$，求其零空间：

1. 化为 RREF：
   $$\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)\stackrel{\text{行变换}}{\to }\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right).$$
2. 主元列是第1、2列，无自由变量。因此，零空间仅包含零向量：
   $$\text{Null}(A)=\left\{\left(\begin{array}{c}0\\ 0\end{array}\right)\right\}.$$

4. 秩-零化度定理（Rank-Nullity Theorem）

该定理将矩阵的秩与零空间的维度联系起来：
$$\text{Rank}(A)+\text{Nullity}(A)=n,$$
其中：

• $\text{Rank}(A)$ 是矩阵 $A$ 的列空间（Column Space）的维度。
• $\text{Nullity}(A)$ 是零空间的维度（即零空间中线性无关向量的最大数量）。
• $n$ 是矩阵 $A$ 的列数。

示例：
若矩阵 $A$ 有 3 列且秩为 1，则零空间的维度为 $3-1=2$，即零空间是二维的。

5. 零空间的基与维度

• 基：零空间的基是一组线性无关的向量，能够通过线性组合生成零空间中的所有向量。
• 维度：零空间的维度等于自由变量的个数，即 $\text{Nullity}(A)=n-\text{Rank}(A)$。

示例：
矩阵 $A=\left(\begin{array}{ccc}1& 1& 1\\ 0& 0& 0\end{array}\right)$：

1. RREF 为 $\left(\begin{array}{ccc}1& 1& 1\\ 0& 0& 0\end{array}\right)$。
2. 主元列是第1列，自由变量是 $x_2$ 和 $x_3$。
3. 设 $x_2=t$，$x_3=s$，则 $x_1=-t-s$。
4. 解的形式为：
   $$\mathbf{x}=t\left(\begin{array}{c}-1\\ 1\\ 0\end{array}\right)+s\left(\begin{array}{c}-1\\ 0\\ 1\end{array}\right).$$
5. 零空间的基为 $\left\{\left(\begin{array}{c}-1\\ 1\\ 0\end{array}\right),\left(\begin{array}{c}-1\\ 0\\ 1\end{array}\right)\right\}$，维度为 2。

6. 零空间的应用

1. 线性方程组的解：

   • 对于非齐次方程组 $A\mathbf{x}=\mathbf{b}$，若存在特解 ${\mathbf{x}}_p$，则通解为：
     $$\mathbf{x}={\mathbf{x}}_p+{\mathbf{x}}_h,$$
     其中 ${\mathbf{x}}_h\in \text{Null}(A)$。

2. 数据降维与特征提取：

   • 在主成分分析（PCA）中，通过找到数据矩阵的零空间，可以去除冗余信息，保留主要特征。

3. 机器学习：

   • 在支持向量机（SVM）中，零空间用于寻找最优超平面，最大化分类间隔。

4. 机器人控制：

   • 在全身控制（Whole Body Control, WBC）中，零空间方法（Null Space Based, NUB）用于处理多任务优先级问题，确保低优先级任务不影响高优先级任务的执行。

7. 零空间与其他空间的关系

• 行空间与零空间正交：
  矩阵 $A$ 的行空间（Row Space）与零空间是正交补关系，即：
  $$\text{Row}(A)\perp \text{Null}(A),\text{Row}(A)\oplus \text{Null}(A)={\mathbb{R}}^n.$$
  这意味着，零空间中的向量与行空间中的向量点积为零。

• 列空间与左零空间正交：
  矩阵 $A$ 的列空间（Column Space）与左零空间（Left Null Space）是正交补关系：
  $$\text{Col}(A)\perp \text{Null}(A^T),\text{Col}(A)\oplus \text{Null}(A^T)={\mathbb{R}}^m.$$

8. 例子详解

问题：求矩阵 $A=\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\end{array}\right)$ 的零空间。
步骤：

1. 化为 RREF：
   $$\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\end{array}\right)\stackrel{\text{行变换}}{\to }\left(\begin{array}{ccc}1& 0& -1\\ 0& 1& 2\end{array}\right).$$
2. 主元列是第1、2列，自由变量是 $x_3$。
3. 设 $x_3=t$，则 $x_1=t$，$x_2=-2t$。
4. 解的形式为：
   $$\mathbf{x}=t\left(\begin{array}{c}1\\ -2\\ 1\end{array}\right).$$
5. 零空间的基为 $\left\{\left(\begin{array}{c}1\\ -2\\ 1\end{array}\right)\right\}$，维度为 1。

总结

零空间是理解线性方程组解结构的关键，其性质和应用贯穿线性代数的多个领域。通过秩-零化度定理，零空间的维度与矩阵的秩紧密相关，而零空间的基为求解齐次方程组提供了理论基础。在实际应用中，零空间帮助我们分析数据、优化算法，并在机器人控制等复杂系统中发挥重要作用。