大数跨境
0
0

如何理解正交性与正交补

如何理解正交性与正交补 数据分析学习与实践
2025-11-27
5
导读:线性代数大部分的精彩都来自于正交的理解,它连接了我们之前的“代数计算:解方程组”与现在的“几何洞察:正交几何”

线性代数大部分的精彩都来自于正交的理解,它连接了我们之前的“代数计算:解方程组”与现在的“几何洞察:正交几何”。

在“线性方程组”章,我们已经发现了行空间零空间之间深刻的维度关系(秩和 =  )。现在,在“正交性”这一章,我们要为这个关系注入灵魂,揭示它们之间更本质的几何关系:正交互补 。

这不仅仅是“垂直”,这是关于“完全互补的垂直”。


一、 承上:回顾内积与一个被“忽视”的观察

  • 复习我们的“几何之源”

    • 点积:我们测量向量关系的工具,点积赋予线性代数的骨架。
    • 核心判据:当   时,我们说   与  正交 (Orthogonal)。几何上,它们垂直
  • 提出一个“被忽视”的观点

    “在上一章解方程组时,我们定义了**零空间  **,即所有满足   的向量   的集合。

    当时我们只关心它的大小(维度)。但这个方程  ,如果用行视角内积的语言来重新解读,它到底在说什么?”

二、 代数方程的几何意义

让我们把方程   展开:

这等价于一个由   个内积组成的约束系统:

这一组方程的几何解读:

  1. 第一层理解:解向量   必须与矩阵   的每一个行向量都垂直。
  2. 第二层理解:既然   与所有基底(行向量)都垂直,那么它必然与这些基底张成的整个空间——**行空间  **——中的任意向量都垂直!
    • 即:零空间中的任一向量,都垂直于行空间中的任一向量。

这不仅是正交,这是“正交补”!,正交很好理解,那“补”是什么含义呢?

三、 从“向量”到“空间”的推广

  • 逻辑推演:如果一个向量   与   这些“基”都正交,那么根据内积的线性性质,它也必然与由这些基通过线性组合搭建出来的任何向量都正交。
  • 概念:由所有行向量   的线性组合构成的空间,正是行空间,记作 

符号解释:

  1. : 代表原始矩阵。
  2. : 代表矩阵   的转置矩阵
    • 所以,**  的“行向量”**,就变成了   的“列向量”
  3.  (Column Space of ...): 代表括号内矩阵的列空间
    • 定义:一个矩阵的列空间,是由该矩阵的所有列向量张成的空间。

我们得到了本章的第一个核心结论

零空间   中的每一个向量,都与行空间   中的每一个向量相互正交。

四、 引入新概念:正交补

我们为这种“一个空间与另一个空间完全垂直”的深刻关系,赋予一个正式的名字。

定义:给定一个子空间  ,它的正交补空间 ,是所有与   中每一个向量都正交的向量的集合。

充分理解

  •  和   就像是硬币的两面,它们共同构成了一个完整的世界,但又互不侵犯。
  • 它们在整个空间中,除了原点  之外,绝无交集
  • 它们共同将整个空间“”成了两个完全垂直的部分。任何一个向量,都可以被唯一地分解为它在这两个空间中的投影之和。

线性代数基本定理的第一部分

零空间  ,正是行空间   的正交补。

五、 几何图景与意义

  • 可视化

    • 在三维空间中,如果行空间是一个二维平面(行秩=2),那么零空间必然是与这个平面完全垂直的那条一维直线(零空间维度=1)。
    • 如果行空间是一条一维直线(行秩=1),那么零空间必然是与这条直线完全垂直的那个二维平面(零空间维度=2)。
  • 回归方程组中意义

    • 对“解方程”的终极解释: 方程组   的解集是  。 这个结论现在有了更深的几何意义:

      解集,是垂直于所有“约束超平面”法向量(行向量)方向的那个“自由空间”(零空间),经过特解   平移后的结果。

      解的“自由”方向,与“约束”方向,是完全正交的!

    • 对“信息”的完美分解: 任何一个输入向量   都可以被唯一地分解为:

      当变换   作用于   时:

      结论一次线性变换,完全“无视”了输入向量在其零空间中的分量,它只对输入向量在其行空间中的分量进行有效变换。

图解:线性变换的“过滤器”机制

  1. 左图(输入空间的分解)

    • 红色虚线(行空间)与蓝色虚线(零空间)在原点垂直相交。这直观地展示了 
    • 紫色的输入向量   被完美地分解为一个躺在红线上的红色分量   和一个躺在蓝线上的蓝色分量 
    • 绿色实线(解集)穿过红色的   头顶,并且与红线(行空间)垂直,与蓝线(零空间)平行。这完美诠释了“解的自由方向与约束方向正交”。
  2. 右图(输出空间的选择)

    • 变换   就像一个过滤器。
    • 它把蓝色的分量   直接过滤掉了(变成了原点处的蓝点)。
    • 它只接受红色的分量  ,并将其变换为最终的输出向量(红色实心箭头)。
    • 紫色的虚线箭头(总变换结果)与红色实心箭头完全重合

结论

这组图证明了:线性变换   本质上是一个只针对行空间分量的“同构映射”(从行空间映射到列空间),而零空间分量则是被丢弃的“噪音”。这就是线性代数基本定理的核心几何理解。


【声明】内容源于网络
0
0
数据分析学习与实践
数据分析,数据科学,线性代数,统计学,AI,python,可视化,excel
内容 343
粉丝 0
数据分析学习与实践 数据分析,数据科学,线性代数,统计学,AI,python,可视化,excel
总阅读405
粉丝0
内容343