特征值分解
设 $A{n \times n}$ 有 $n$ 个线性无关的特征向量 $\boldsymbol{x}{1}, \ldots, \boldsymbol{x}{n}$，对应特征值分别为 $\lambda{1}, \ldots, \lambda_{n} $
$A\left[\begin{array}{lll}\boldsymbol{x}{1} \& \cdots \& \boldsymbol{x}{n}\end{array}\right]=\left[\begin{array}{lll}\lambda{1} \boldsymbol{x}{1} \& \cdots \& \lambda{n} \boldsymbol{x}{n}\end{array}\right]=\left[\begin{array}{lll}\boldsymbol{x}{1} \& \cdots \& \boldsymbol{x}{n}\end{array}\right]\left[\begin{array}{ccc}\lambda{1} \& \& \\\& \ddots \& \\\& \& \lambda{n}\\\end{array}\right]\left[\begin{array}{lll}\boldsymbol{x}{1} \& \cdots \& \boldsymbol{x}{n}\end{array}\right]^{-1}$
因此有 EVD 分解
$ A X=X \Lambda \quad \quad \quad A=X \Lambda X^$
其中 $X$ 为 $\boldsymbol{x}{1}, \ldots, \boldsymbol{x}{n}\left(\right. 列向量)$ 构成的矩阵， $\Lambda=\operatorname{diag}\left(\lambda{1}, \ldots, \lambda{n}\right) $。
即使固定 $ \Lambda$， $X$ 也不唯一。
特征值分解的例子
这里们用一个简单的方阵来说明特征值分解的步骤。们的方阵A定义为：
$A=\left(\begin{array}{ccc}-1 \& 1 \& 0 \\-4 \& 3 \& 0 \\1 \& 0 \& 2\end{array}\right)$
首先，由方阵A的特征方程，求出特征值。
$\|A-\lambda E\|=\left\|\begin{array}{ccc}-1-\lambda \& 1 \& 0 \\-4 \& 3-\lambda 0 \& \\1 \& 0 \& 2-\lambda\end{array}\right\|=(2-\lambda)\left\|\begin{array}{cc}-1-\lambda \& 1 \\-4 \& 3-\lambda\end{array}\right\|=(2-\lambda)(\lambda-1)^{2}=0$
特征值为 $\lambda=2,1$ （重数是2）。
然后，把每个特征值入带入线性方程组 $ (A-\lambda E) x=0$ , 求出特征向量。
当 $ \lambda=2$ 时，解线性方程组$(A-2 E) x=0 $ 。
$(A-2 E)=\left(\begin{array}{ccc}-3 \& 1 \& 0 \\-4 \& 1 \& 0 \\1 \& 0 \& 0\end{array}\right) \rightarrow\left(\begin{array}{lll}1 \& 0 \& 0 \\0 \& 1 \& 0 \\0 \& 0 \& 0\end{array}\right)$
解得 $x{1}=0, \quad x{2}=0$ 。特征向量为：$p_{1}=\left(\begin{array}{l}0 \\0 \\1\end{array}\right)$
当 $ \lambda=1$ 时，解线性方程组$ (A-E) x=0$
$\begin{array}{l}(A-2 E)=\left(\begin{array}{ccc}-2 \& 1 \& 0 \\-4 \& 2 \& 0 \\1 \& 0 \& 1\end{array}\right) \rightarrow\left(\begin{array}{lll}1 \& 0 \& 1 \\0 \& 1 \& 2 \\0 \& 0 \& 0\end{array}\right)\end{array}$
$x{1}+x{3}=0, \quad x{2}+2 x{3}=0$ 。特征向量为：$p_{2}=\left(\begin{array}{c}-1 \\-2 \\1\end{array}\right)$
最后，方阵A的特征值分解为：
$A=X \Lambda X^{-1}=\left(\begin{array}{ccc}0 \& -1 \& -1 \\0 \& -2 \& -2 \\1 \& 1 \& 1\end{array}\right)\left(\begin{array}{ccc}2 \& 0 \& 0 \\0 \& 1 \& 0 \\0 \& 0 \& 1\end{array}\right)\left(\begin{array}{ccc}0 \& -1 \& -1 \\0 \& -2 \& -2 \\1 \& 1 \& 1\end{array}\right)^{-1}$
进一步得, 当 $A$ 为实对称矩阵的时候, 即 $A=A^$ , 那么它可以被分解成如下的形式
$A=P \Lambda P^$
其中, $P$ 为单位正交矩阵。
原文创作：CBlair
原文链接：https://www.cnblogs.com/BlairGrowing/p/15362045.html
