02-3：正交子空间

矩阵论02-3：正交子空间

1 子空间正交

向量与空间正交：给出W是欧式(酉)空间V的子空间，取V中一个向量$x\in V$，如果$\forall y\in W$，总有$(x,y)=0$，则称向量x与子空间w正交，记作$x\perp W$.

空间与空间正交：给出$W_1$, $W_2$是V的子空间，如果$\forall x\in W_1$，总有$x\perp W_2$，则称$W_1$, $W_2$是正交的，记作$W_1\perp W_2$。

所以$W_1$与$W_2$正交，意味着$W_1$中的每个向量都与$W_2$中每个向量正交。

推论：当一个向量$\alpha \perp W_1$，且$\alpha\in W_1$，那么$\alpha$只能是0向量。

1.1 推论与定理

1.1.1 生成空间的正交

设空间$W_1$是向量组$\alpha_1,\dots,\alpha_r$生成的，空间$W_2$是由$\beta_1,\dots,\beta_s$，那么两个空间正交的充要条件是生成两个空间的向量组正交，即

$$(\alpha_i,\beta_j) = 0 \Leftrightarrow W_1\perp W_2$$

1.1.2 直和

若$W_1$, $W_2$是欧式(酉)空间V的正交子空间，则$W_1 + W_2$是直和。因为正交的子空间的并集只能是$\{\theta \}$。

推论：若$W_1\perp W_2$，则以下维数关系成立

$$\dim (W_1+W_2) = \dim W_1 +\dim W_2$$

同样是因为没有交集。

两个子空间的和是直和，它们不一定正交。正交可以推直和，直和不能推正交。

2 正交补空间

如果欧式空间V的子空间$W_1$, $W_2$满足$W_1\perp W_2$，并且$W_1+W_2 = V$，则称$W_2$是$W_1$的正交补。这个定义就是余子空间的正交版本。

2.1 推论与定理

2.1.1 值域与核空间

设$A\in C^{m\times n}$，则以下两个命题成立

1. $R(A)+N(A^H) = C^m$, 同时$R(A)\perp N(A^H)$
2. $R(A^H)+N(A) = C^n$, 同时$R(A^H)\perp N(A)$

对第一条的证明
将A进行列分块$A = [\alpha_1,\dots,\alpha_n]$, 则它的值域和共轭转置的核空间为
$R(A) = L(\alpha_1,\dots,\alpha_n)$, $N(A^H) = \{x|A^Hx=0\}$
注意到

$$A^H = \begin{bmatrix}\alpha_1^H \\\vdots \\\alpha_n^H\end{bmatrix}$$

那么$A^H x=0$可以写为

$$\begin{cases}\alpha_1^Hx = 0 \\\cdots \\\alpha_n^Hx = 0\end{cases}$$

由于其形式就是酉空间的标准内积，所以

$$\begin{cases}(\alpha_1,x) = 0 \\\cdots \\(\alpha_n,x) = 0\end{cases}$$

即生成$A$的基向量垂直于核空间的任意一个向量。所以$R(A)\perp N(A^H)$

又$rank R(A) = rank A$, 由齐次方程组的解理论，$rank N(A^H) = m-rank A$, since

$$A^Hx = A^{H(n\times m)} x^{(m)}$$

即未知数个数是m。

所以$rank\{R(A)+N(A^H)\} = m-rank A+rank A = m$，转换为空间就是$R(A)+N(A^H) = C^m$。

$Q.E.D.$

2.1.2 正交补的唯一性

设$W_1$是欧式(酉)空间V的子空间，则存在唯一的$W_2 = W_1^{\perp}$，使得$V = W_1\oplus W_2$。