02-6：向量范数和矩阵范数的相容性

矩阵论02-6：向量范数和矩阵范数的相容性

1 定义

矩阵和矩阵之间乘法对于范数来说要满足相容性，矩阵和向量同样是可以相乘的，这就引出了矩阵和向量的相容性。

设$||\cdot||_\beta$是$C^{n\times n}$(或$R^{n\times n}$)上的矩阵范数，$||\cdot||_\alpha$是$C^n$(或R^n)上的向量范数，如果$\forall A\in C^{n\times n}$，$\forall x\in C^n$都有

$$||Ax||_\alpha \leq ||A||_\beta ||x||_\alpha$$

则称矩阵范数$||\cdot||_\beta$与向量范数$||\cdot||_\alpha$是相容的。

1.1 性质

定理：对于给定的矩阵范数，一定存在与之相容的向量范数。给出向量范数，也能够找到与之相容的矩阵范数。

1. 矩阵的$m_1$范数与向量的1-范数相容
2. 矩阵的$m_2$范数与向量的2-范数相容
3. 矩阵的$\infty$-范数与向量的1-范数，2-范数，$\infty$-范数都相容

2 算子范数

引理：给定$C^n$上的向量范数$||\cdot||_v$，$\forall A\in C^{n\times n}$，定义

$$||A|| = \max_{x\neq \theta}\frac{||Ax||_v}{||x||_v}$$

则$||\cdot||$是$C^{n\times n}$上与向量范数$||\cdot||_v$相容的矩阵范数。这里的式子表示取$x$，使得这个分式的值最大，并且$x$不能取0向量。所以是一种有约束的函数极值。

算子范数：此时称$||\cdot||$为由向量范数$||\cdot||_v$导出的算子范数，或者从属于向量范数$||\cdot||_v$的矩阵范数。

定理：由引理定义的实值函数$||A||$是一种和定义中用到的向量范数$||x||_v$相容的矩阵范数。

2.1 算子范数的其它形式

1. 约束条件为$||x||_v=1$

   $$||A|| = \max_{||x||_v=1}||Ax||_v$$

2. 约束条件为$||x||_v \leq 1$

   $$||A|| = \max_{||x||_v\leq 1}||Ax||_v$$

这两个都是$||\cdot||_v$诱导出的算子范数。

2.2 几种特殊的算子范数

矩阵1-范数：

$$||A||_1 = \max_{j}\sum_{i=1}^n |a_{ij}|$$

是从属于向量1-范数的矩阵1-范数。注意到这是在对第$j$列元素的模求和，然后再挑选求和结果最大的一列。这个范数也叫做列和范数

矩阵$\infty$-范数：

$$||A||_\infty = \max_{1\leq i\leq n}\sum_{j=1}^n |a_{ij}|$$

是从属于向量$\infty$-范数的矩阵$\infty$-范数。注意这是在对第$i$行元素的模求和，然后再挑选结果最大的一行。这个范数也叫做行和范数。

矩阵2-范数：

$$||A||_2 = \sqrt{\lambda_M} = \sigma_1$$

其中$\lambda_M = \max\{\lambda: det(\lambda I - A^HA)=0\}$，也就是矩阵$A^HA$的最大特征值。是从属于向量#2-范数的矩阵2-范数。在这个范数又叫做谱范数，以及A的最大正奇异值。

这几个矩阵范数注意与矩阵m-范数区分

谱范数的一些性质：

1. $||A||_2 = \max\limits_{x, y}\{|y^HAx| \ | \ ||x||_2=1, ||y||_2=1\}$
2. $||A||_2 = ||\bar A||_2 = ||A^T||_2 = ||A^H||_2$
3. $||A^HA||_2=||A||_2^2$
4. $||A||_2 = ||UAV||_2$, $\forall U,V\in U^{n\times n}$，可视作酉不变性

2.3 谱半径

矩阵$A\in C^{n\times n}$的谱半径$\rho(A)$是

$$\rho(A) = \max\{|\lambda|: \lambda 是A的特征值\}$$

也就是最大特征值的模。

定理5：如果$||\cdot||$是任意的矩阵范数，且$A\in C^{n\times n}$，则

$$\rho(A)\leq ||A||$$

谱半径并非一个矩阵范数，但对于一个矩阵$A$来说，谱半径是它所有矩阵范数值的
最大下界。矩阵范数是大于等于谱半径的。