PRML演習問題 12.3(基本) - 機械学習基礎理論独習

問題

$(12.30)$ で定義される固有ベクトルが単位長さに規格化されていることを示せ。
ただし、固有ベクトル ${\bf v}_i$ は単位長さを持っていると仮定する。

参照

$\begin{eqnarray} \frac{1}{N}{\bf X}{\bf X}^\top{\bf v}_i=\lambda_i{\bf v}_i\tag{12.28} \end{eqnarray}$

$\begin{eqnarray} {\bf u}_i=\frac{1}{(N\lambda_i)^{1/2}}{\bf X}^\top{\bf v}_i\tag{12.30} \end{eqnarray}$

解答

式 $(12.28)$ の両辺に左側から ${\bf v}_i^\top$ を掛けます。

$\begin{eqnarray} &&\frac{1}{N}{\bf v}_i^\top{\bf X}{\bf X}^\top{\bf v}_i=\lambda_i{\bf v}_i^\top{\bf v}_i\\ &&\Leftrightarrow {\bf v}_i^\top{\bf X}{\bf X}^\top{\bf v}_i=N\lambda_i\\ &&\Leftrightarrow ||{\bf X}^\top{\bf v}_i||^2=N\lambda_i\\ &&\Leftrightarrow \Bigg|\Bigg|\frac{1}{(N\lambda_i)^{1/2}}{\bf X}^\top{\bf v}_i\Bigg|\Bigg|^2=1\\ &&\Leftrightarrow ||\underbrace{{\bf u}_i}_{(12.30)}||=1\tag{1} \end{eqnarray}$

式 $(1)$ より、 $(12.30)$ で定義される固有ベクトルが単位長さに規格化されていることが示せました。