PRML演習問題 3.12(標準) - 機械学習基礎理論独習

問題

$2.3.6$ 節で、平均およひ精度(分散の逆数)がともに未知のガウス分布に対応する共役事前分布は
正規ガンマ分布であることを述べた。
この性質は、線形回帰モデルの条件付きガウス分布 $p(t|{\bf x},{\bf w},\beta)$ の場合にも成り立つ。
尤度関数が $(3.10)$ で与えられるとき、 ${\bf w}$ と $\beta$ の共役事前分布が

$\begin{eqnarray} p({\bf w},\beta)={\mathcal N}({\bf w}|{\bf m}_0,\beta^{-1}{\bf S}_0){\rm Gam}(\beta|a_0,b_0)\tag{3.112} \end{eqnarray}$

で与えられることを示せ。さらに対応する事後分布が同様に

$\begin{eqnarray} p({\bf w},\beta|{\bf t})={\mathcal N}({\bf w}|{\bf m}_N,\beta^{-1}{\bf S}_N){\rm Gam}(\beta|a_0,b_0)\tag{3.113} \end{eqnarray}$

の関数形で与えられることを示し、パラメータ ${\bf m}_N,{\bf S}_N,a_N,b_N$ についての式を求めよ。

参照

$\begin{eqnarray} p({\bf t}|{\bf X},{\bf w},\beta)=\prod_{n=1}^N{\mathcal N}(t_n|{\bf w}^\top{\boldsymbol\phi}({\bf x}_n),\beta^{-1})\tag{3.10} \end{eqnarray}$

解答

作成中