PRML演習問題 6.24(基本) - 機械学習基礎理論独習

問題

対角行列 $\bf W$ で、その要素が $0 < W_{ii} < 1$ を満たすものは、正定値であることを示せ。
また、 $2$ つの正定値行列の和は、やはり正定値になることを示せ。

解答

対角行列 ${\bf W}$ を $D\times D$ 行列とします。
任意の非零のベクトル ${\bf a}=(a_1,\ldots,a_D)^\top$ について、 ${\bf a}^\top{\bf W}{\bf a}$ を計算します。

$\begin{eqnarray} {\bf a}^\top{\bf W}{\bf a}&=&\sum_{i=1,}^D\sum_{j=1}^DW_{ij}a_ia_j\\ &=&\sum_{i=1,}^D\sum_{j=1}^DW_{ij}\delta_{ji}a_ia_j\ (\because W_{ij}=0\ (i\not=j))\\ &=&\sum_{i=1}^DW_{ii}a_i^2>0\tag{1} \end{eqnarray}$

式 $(1)$ より、対角行列 $\bf W$ で、その要素が $0 < W_{ii} < 1$ を満たすものは、正定値であることが示せました。

$2$ つの正定値行列を ${\bf W}_1,{\bf W}_2$ とおき、
任意の非零のベクトル ${\bf a}=(a_1,\ldots,a_D)^\top$ について、 ${\bf a}^\top({\bf W}_1+{\bf W}_2){\bf a}$ を計算します。

$\begin{eqnarray} {\bf a}^\top({\bf W}_1+{\bf W}_2){\bf a}&=&{\bf a}^\top{\bf W}_1{\bf a}+{\bf a}^\top{\bf W}_2{\bf a} > 0\tag{2} \end{eqnarray}$

式 $(2)$ より、 $2$ つの正定値行列の和は、正定値になることが示せました。