PRML演習問題 1.14(標準)

問題

$w_{ij}$ を成分とする任意の正方行列は $w_{ij}=w_{ij}^S+w_{ij}^A$ という形に書けることを示せ。
ただし、 $w_{ij}^S$ と $w_{ij}^A$ はそれぞれ対称行列と反対称行列の成分であり $w_{ij}^S=w_{ji}^S$ および $w_{ij}^A=-w_{ji}^A$ がすべての $i,j$ について成り立つ。
さてここで、 $D$ 次元における高次の多項式の $2$ 次の項

$\begin{eqnarray} \sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j\tag{1.131} \end{eqnarray}$

を考えると、

$\begin{eqnarray} \sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j=\sum_{i=1}^D\sum_{j=1}^Dw_{ij}^Sx_ix_j\tag{1.132} \end{eqnarray}$

となり、反対称行列の寄与が消えることを示せ。
このことから、一般性を失うことなく、係数 $w_{ij}$ は対称に選んでよく、すべての $D^2$ の成分の選び方が独立ではないことがわかる。
これを使って、行列 $w_{ij}^S$ の独立パラメータの数が $D(D+1)/2$ で与えられることを示せ。

解答

$w_{ij}^S,w_{ij}^A$ を以下のように定義します。

$\begin{eqnarray} &&w_{ij}^S=\frac{w_{ij}+w_{ij}^\top}{2}\tag{1}\\ &&w_{ij}^A=\frac{w_{ij}-w_{ij}^\top}{2}\tag{2}\\ \end{eqnarray}$

$w_{ij}^S+w_{ij}^A$ を計算します。

$\begin{eqnarray} w_{ij}^S+w_{ij}^A&=&\frac{w_{ij}+w_{ij}^\top}{2}+\frac{w_{ij}-w_{ij}^\top}{2}\\ &=&w_{ij}\tag{3} \end{eqnarray}$

式 $(3)$ より、 $w_{ij}=w_{ij}^S+w_{ij}^A$ という形に書けることを示せました。

$\displaystyle\sum_{i=1}^D\displaystyle\sum_{j=1}^Dw_{ij}x_ix_j$ に $w_{ij}=w_{ij}^S+w_{ij}^A$ を代入して展開します。

$\begin{eqnarray} \sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j&=&\sum_{i=1}^D\sum_{j=1}^D(w_{ij}^S+w_{ij}^A)x_ix_j\\ &=&\sum_{i=1}^D\sum_{j=1}^Dw_{ij}^Sx_ix_j+\sum_{i=1}^D\sum_{j=1}^Dw_{ij}^Ax_ix_j\tag{4} \end{eqnarray}$

式 $(4)$ の $\displaystyle\sum_{i=1}^D\displaystyle\sum_{j=1}^Dw_{ij}^Ax_ix_j$ を計算します。

$\begin{eqnarray} \sum_{i=1}^D\sum_{j=1}^Dw_{ij}^Ax_ix_j&=&\sum_{i=1}^D\sum_{j=1}^D\left(\frac{w_{ij}-w_{ij}^\top}{2}\right)x_ix_j\\ &=&\frac{1}{2}\left(\sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j-\sum_{i=1}^D\sum_{j=1}^Dw_{ij}^\top x_ix_j\right)\\ &=&\frac{1}{2}\left(\sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j-\sum_{i=1}^D\sum_{j=1}^Dw_{ji} x_ix_j\right)\\ &=&\frac{1}{2}\left(\sum_{i=1}^D\sum_{j=1}^Dw_{ij}x_ix_j-\sum_{j=1}^D\sum_{i=1}^Dw_{ji} x_jx_i\right)\\ &=&0\tag{5} \end{eqnarray}$