简单理解矩阵协议：第三维度的子空间投影与正交基概念详解

承接上一节,

当我不想讲课时，就写满板书到黑板，让学生们抄写完成，自己回家领悟去吧。
	

我为什么在这里，只留下自己的影子，不带走一丝云彩。

4 矩阵空间的子空间投影 和 空间正交基

设有如下向量组

	B = {->v1, ->v2, ..., ->vk}

这些向量的长度为 1，它们有如下性质 (1)

		||->vi|| = 1   for i = 1,2,...,k 长度为1
		||->v1||^2 = 1    //平方长度为1
		->v1*->v1 = 1     //与自己点乘为1

这被称为向量组B被归一化了。归一化的向量是把向量组长度都变成1的单位向量。

所有向量都有相互正交，即这些向量之间点乘结果为0（i != j）, 并且与自己点乘将得到1

	->vi * ->vj = 0 (i != j)
	->vi * ->vi = 1 (i = j)

这被称为正交基，如果都是单维向量，即向量的长度都为1，则称为标准正交基

并且B中向量是相互独立的，也就是线性无关的，这可以容易证明。 （如果向量组B其中一个向量乘以一个标量，可表示向量组B的另一个向量，那么就是线性相关，这将很容易证明与定义冲突。）

4.1 矩阵空间的子空间及其补集

一个向量组构成的向量空间V可以由 U，W 构成，如

 	V = u + w

u, w 是V的子空间，当且仅当V 是 u，w的内部之和时，w 是 u的补集,并且互补关系是对称的。 特别地，零子空间与V本身是彼此唯一补集。

如果V是有限维度的，通常子空间没有唯一补集，如果V是有限维的内积空间，可能存在唯一正交补集。（待确定）

4.2 矩阵生成空间及其投影

projection 也就是投影的意思，这里将使用 proj表示投影关系。 从矩阵空间投影的直线开始，因为直线可以看着是 空间的一个特例:

	L = span(->v)  或者  L = {c*->v | c ∈ IR}

这表示 L 是 V的倍数集合，这些系数都是实数范围。 L 为经过原点的直线表达方式。

如下形式定义了任何向量在那条线的投影：

	Proj_L(->x) = (->x * ->v) * ->v / (->v * ->v)

投影的另一个意思是，按比例放大，缩小 L中的向量。

上式表示向量 ->x 在直线 L 的投影，等于 x 与生成这个直线的向量的点积。 也就是x 点乘v 除以，向量v的自点乘，也就是 v长度平方。

L中任意一个向量都可以是生成向量，除了零向量以为的任意向量 都可以是生成向量，也就是其他某个向量的投影。 如下表示，向量->v 在 x轴的投影 -> x，

            ___________________
           /                  /
          /    |             /
         /     | (->v)      /
        /      |/          /
       /       /->----(L) /
      /       /  (x)     /
     /       /          / 
    /__________________/

现有某向量 ->v 在横轴的投影，相当于向量 ->v 对横轴 做垂线。

向量 v 减去 v 在 L（即横轴） 的投影，与 直线 L（即横轴） 是垂直的，也与 L（即横轴） 直线的任何东西垂直。

L是一个子空间，它包括零向量，零空间，因为它经过原点，在加法中是封闭的，也就是 L 中任意元素加另一个元素 仍然在 L 中.

标量乘法也是封闭的，任意元素放大或缩小都在L 子空间中。

假设 V 是 Rn(实数)的子空间，那么有如下性质

	V 的子空间也是 Rn的子空间
	V 的正交补集 也就是 Rn的子空间

现在有空间V的两个子空间：

	U 和 它的补集 W
	V = U + W (V ∈ IR^n)  

这表示 V 是 IRn空间 的子空间 U 与 正交补 W 的元素的和。 假设有向量 ->x 属于 V 空间 向量->x 就是V的一员，向量->x 是正交补空间 W的一员。 投影就是 ->u 来自 V的这一部分。 或者说 ->u 在正交补

	Proj_v ->x = ->v  或 Proj_v^ ->x = ->w 

这表示V的正交补的投影等于 W 所以有

	->x = ->v + ->w      （式 I）
               (1)   (2)

在式 I 中

	(1) 表示 在子空间 V的 U 的投影
	(2) 表示 在子空间 V的正交补空间W的投影 		    

	Proj_v ->x = ->v    (1)
	Proj_v^ ->x = ->w   (2)

当 V 是一条直线时，因为这个直线是一个子空间，但不是全部子空间都是 Rn中一个直线。

比如 矩阵

            A = (（3 （-2   )
		  6）  -4）

A的零空间为

          N(A) = span(（2
    		   3）)

    行空间(A的转置列空间)	   
    
        C(A^t) = span(（3
    		      -2）)

全部这些 满足 A*->x 等于 0 的 特征向量 ->x 都是零空间 N(A) 的生成空间。

如下向量是矩阵A空间的一员

	 ->a = （9
                18）

N(A) 与 C(A^t) 为相互正交补，也就是零空间为 行空间的正交补。

	N(A) = C(A^t)^
	N(A)^ = C(A^t)

如下图表示，则为在原点交叉的两个直线

               ____________________
              /   |               /
             /    |   N(A)       /
            /   \ | /           /
           /     \|/           /
          /       /------(L)  /
         /       / \         /
        /       /   \C(A^t) / 
       /___________________/

直线上的投影是空间投影的一个特例，也可以说是齐次解。 结论:

    向量在直线的投影是线性变换。 
    向量在任意空间的投影也是线性变换。

本节小结

本文结束矩阵零空间，列空间的概念，及向量在其中的投影概念，空间正交向量在计算机中有很多应用。 下一节我们试图继续了解其中的几个典型案例，就快完成了。