02-2：标准正交基与向量的正交化

矩阵论02-2：标准正交基与向量的正交化

1 向量的度量

定义向量的模(范数)：设V是酉(欧式)空间，$x\in V$，称$||x|| = \sqrt{(x,x)}$为向量的模(范数)。
单位向量：如果$||x|| = 1$，则称x为单位向量。

1.1 重要的等式/不等式

1. $||kx|| = |k|||x||$ , $k\in C$ or $(k\in R)$
2. Cauchy-Schwarz不等式：$|(x,y)|\leq ||x||||y||$
3. $||x+y||\leq ||x||+||y||$

1.2 向量的关系

1. 距离：$d(x,y) = ||x-y||$
2. 夹角：$\theta = \arccos \frac{(x,y)}{||x||||y||}$
3. 正交：$(x,y) = 0$时，向量正交，记作$x\perp y$

在同一个线性空间里，如果自己定义了两个不同的内积运算，那么在两个不同内积运算下的同一个向量的正交性不一定相同。

定义正交向量组：对于酉(欧式)空间V中的向量组$\alpha_1,\dots,\alpha_n$两两正交，则称$\alpha_1,\dots,\alpha_n$是正交向量组。
定义标准正交向量组：正交向量组中每个向量都是单位向量，就是标准正交向量组。

正交向量组是线性无关向量组

2 标准正交基

定义标准正交基：设$\epsilon_1,\dots,\epsilon_n$是酉(欧式)空间的基底，且是标准正交向量组，则称其为标准正交基。

2.1 重要定理

定理：內积在标准正交基下的矩阵(度量矩阵)为单位阵。

定理：给出V是酉(欧式)空间，如果求出P是其标准正交基$\epsilon_1,\dots,\epsilon_n$到标准正交基$\epsilon_1',\dots,\epsilon_n'$的过渡矩阵，则有$P^HP = E_n$

3 酉矩阵和正交矩阵

定义酉矩阵：设A是一个n阶复矩阵，如果其满足

$$A^HA = AA^H = E$$

则A称作酉矩阵，记为$A\in U^{n\times n}$

定义正交矩阵：设A是一个n阶实矩阵，如果其满足

$$A^TA = AA^T = E$$

则A称作正交矩阵，记为$A\in E^{n\times n}$

3.1 重要定理

重要性质：设$A,B\in U^{n\times n}$

1. $A^H = A^{-1}$
2. $A^T\in U^{n\times n}$, $AB \in U^{n\times n}$。即转置后是酉矩阵。两个酉矩阵相乘还是酉矩阵
3. $|det A| = \overline{det A}\cdot det A = 1$, $|\lambda(A)| = \bar \lambda \lambda = 1$, $\lambda$是A的特征值
4. A, $A^T$, $A^H$的列向量分别构成$C^n$的标准正交基。

4 向量的正交化

定理：设$\alpha_1,\dots,\alpha_n$为欧式(酉)空间V的线性无关的向量组，则在V中存在正交向量组$\beta_1,\dots,\beta_n$，且$[\alpha_1,\dots,\alpha_n] = [\beta_1,\dots,\beta_n]B$, 其中$B \in C^{n\times n}_n(R_n^{n\times n})$为单位上三角矩阵。

$C^{n\times n}_n$：表示秩为n的n阶复方阵，下标n表示秩。
单位上三角矩阵：对角线元素都是1的上三角阵

Schmidt正交化
给定一个无关的向量组$\alpha_1\dots\alpha_n$, 设$\beta_1,\dots,\beta_n$是其对应的正交化向量组，则Schmidt正交化公式为

$$\begin{aligned}\beta_1 &= \alpha_1 \\\beta_2 &= \alpha_2 - \frac{(\beta_1,\alpha_2)}{(\beta_1,\beta_1)}\beta_1 \\\beta_3 &= \alpha_3 - \frac{(\beta_1,\alpha_3)}{(\beta_1,\beta_1)}\beta_1-\frac{(\beta_2,\alpha_3)}{(\beta_2,\beta_2)}\beta_2 \\\dots \\\beta_n &= \alpha_n - \frac{(\beta_1,\alpha_3)}{(\beta_1,\beta_1)}\beta_1-\frac{(\beta_2,\alpha_3)}{(\beta_2,\beta_2)}\beta_2 - \cdots -\frac{(\beta_{n-1},\alpha_n)}{(\beta_{n-1},\beta_{n-1})}\beta_{n-1} \end{aligned}$$

通过移项整理Schmidt正交化，把$\alpha$仅用$\beta$表示出来，可以得到

$$[\alpha_1,\dots,\alpha_n] = [\beta_1,\dots,\beta_n] \begin{bmatrix} 1 & \frac{(\beta_1,\alpha_2)}{(\beta_1,\beta_1)} & \cdots & \frac{(\beta_1,\alpha_n)}{(\beta_1,\beta_1)}\\ 0 & 1 & \cdots & \frac{(\beta_2,\alpha_n)}{(\beta_2,\beta_2)}\\ \vdots & \vdots & \ddots & \vdots\\ 0 & 0 & \cdots & 1 \end{bmatrix} = [\beta_1,\dots,\beta_n]B$$

不难看出，矩阵B是上三角的，其中空白处的元素应该是Shcmidt正交化的各个系数。

4.1 重要推论

标准正交化：设$\alpha_1\dots\alpha_n$为欧式空间V的线性无关组，则V中存在标准正交向量组$\xi_1,\dots,\xi_n$，有$[\alpha_1\dots\alpha_n] = [\xi_1,\dots,\xi_n]R$，R是正线上三角阵。

正线上三角阵：对角线元素都是正数的上三角阵

证明过程可使用标准化公式

$$\xi_i = \frac{1}{||\beta_i||}\beta_i$$

将每一个求得的$\beta_i$向量标准化，然后再写成矩阵相乘的形式。

扩充定理：设$\alpha_1,\dots\alpha_n$是欧式（酉）空间V的标准正交向量组，则$\alpha_1,\dots,\alpha_n$可以扩充成V中的一组标准正交基