PRML演習問題 13.20(標準) www - 機械学習基礎理論独習

問題

$(2.115)$ の結果を用いて $(13.87)$ を証明せよ。

参照

$\begin{eqnarray} p({\bf x}) = \mathcal{N}(\mathbf x | \boldsymbol\mu, \mathbf\Lambda^{-1})\tag{2.113} \end{eqnarray}$

$\begin{eqnarray} p({\bf y} | {\bf x}) = \mathcal{N}({\mathbf y}| {\mathbf A} \mathbf x + \mathbf b, \mathbf{L}^{-1}) \tag{2.114} \end{eqnarray}$

$\begin{eqnarray} p({\mathbf y}) = \mathcal{N}({\mathbf y} | {\mathbf A} {\boldsymbol\mu} + \mathbf b , \mathbf{L}^{-1} + \mathbf A \mathbf \Lambda^{-1} \mathbf A^{\top}) \tag{2.115} \end{eqnarray}$

$\begin{eqnarray} \int{\mathcal N}({\bf z}_n|{\bf A}{\bf z}_{n-1},{\bf\Gamma}){\mathcal N}({\bf z}_{n-1}|{\boldsymbol\mu}_{n-1},{\bf V}_{n-1}){\rm d}{\bf z}_{n-1}={\mathcal N}({\bf z}_n|{\bf A}{\boldsymbol\mu}_{n-1},{\bf P}_{n-1})\tag{13.87} \end{eqnarray}$

$\begin{eqnarray} {\bf P}_{n-1}={\bf A}{\bf V}_{n-1}{\bf A}^\top+{\bf\Gamma}\tag{13.88} \end{eqnarray}$

解答

式 $(2.115)$ において、以下のように対応付けます。
${\bf x}\rightarrow{\bf z}_{n-1},{\boldsymbol\mu}\rightarrow{\boldsymbol\mu}_{n-1},{\bf\Lambda}^{-1}={\bf V}_{n-1},{\bf y}\rightarrow{\bf z}_n,{\bf A}\rightarrow{\bf A},{\bf b}\rightarrow{\bf 0},{\bf L}^{-1}\rightarrow{\bf\Gamma}$

このとき、 $p({\bf z}_n)$ は以下のようになります。

$\begin{eqnarray} p({\bf z}_n)={\mathcal N}({\bf z}_n|{\bf A}{\boldsymbol\mu}_{n-1},{\bf\Gamma}+{\bf A}{\bf V}_{n-1}{\bf A}^\top)\tag{1} \end{eqnarray}$

式 $(1)$ より、式 $(13.87)$ が示せました。