機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです

目次へ戻る

PRML演習問題 5.10(基本) www

PRML演習問題

問題

固有方程式 $(5.33)$ を持つへッセ行列 $\bf H$ を考える。
$(5.39)$ におけるベクトル $\bf v$ を順々に固有ベクトル ${\bf u}_j$ のそれぞれと等しくすることにより、
すべての固有値が正であるとき、そのときに限り ${\bf H}$ は正定値であることを示せ。

参照

$\begin{eqnarray} {\bf H}{\bf u}_i=\lambda_i{\bf u}_i\tag{5.33} \end{eqnarray}$

$\begin{eqnarray} {\bf v}=\sum_ic_i{\bf u}_i\tag{5.38} \end{eqnarray}$

$\begin{eqnarray} {\bf v}^\top{\bf H}{\bf v}=\sum_ic_i^2\lambda_i\tag{5.39} \end{eqnarray}$

解答

題意を示すには、「すべての固有値が正である」ことが「 ${\bf H}$ は正定値である」ことの必要十分条件であることを示せばよいことがわかります。

$(5.33)$ より、

$\begin{eqnarray} {\bf u}_i^\top{\bf H}{\bf u}_i&=&\lambda_i{\bf u}_i^\top{\bf u}_i\\ &=&\lambda_i>0\tag{1} \end{eqnarray}$

が成り立つので、「 ${\bf H}$ は正定値である」ことは「すべての固有値が正である」ことの十分条件であることが示せました。

また $(5.39)$ より、

$\begin{eqnarray} {\bf v}^\top{\bf H}{\bf v}=\sum_ic_i^2\lambda_i>0\tag{2} \end{eqnarray}$

が成り立つので、「すべての固有値が正である」ことは「 ${\bf H}$ は正定値である」ことの十分条件であることが示せました。

以上より、「すべての固有値が正である」ことが「 ${\bf H}$ は正定値である」ことの必要十分条件であることを示せたので、題意が示せました。

目次へ戻る