機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

PRML演習問題 2.47(基本) www

問題

\nu\rightarrow\inftyの極限でt分布(2.159)ガウス分布になることを示せ。
ヒント:正規化係数を無視し、xへの依存性だけに注目する。

参照

\begin{eqnarray}
{\rm St}(x|\mu,\lambda,\nu)=\frac{\Gamma(\nu/2+1/2)}{\Gamma(\nu/2)}\left(\frac{\lambda}{\pi\nu}\right)^{1/2}\left(1+\frac{\lambda(x-\mu)^2}{\nu}\right)^{-\nu/2-1/2}\tag{2.159}
\end{eqnarray}

解答

(2.159)で、xに関する項を変形します。

\begin{eqnarray}
\left(1+\frac{\lambda(x-\mu)^2}{\nu}\right)^{-\nu/2-1/2}&=&\left(1+\frac{\lambda(x-\mu)^2}{\nu}\right)^{-(\nu+1)/2}\\
&=&\exp\left(-\frac{\nu+1}{2}\ln\left(1+\frac{\lambda(x-\mu)^2}{\nu}\right)\right)\\
&=&\exp\left(-\frac{\nu+1}{2}\left(\frac{\lambda(x-\mu)^2}{\nu}+O(\nu^{-2})\right)\right)\tag{1}\\
&=&\exp\left(-\frac{\nu+1}{\nu}\frac{\lambda(x-\mu)^2}{2}+\left(-\frac{\nu+1}{2}\right)O(\nu^{-2})\right)\\
&=&\exp\left(-\frac{\lambda(x-\mu)^2}{2}+\left(-\frac{1}{\nu}\right)\frac{\lambda(x-\mu)^2}{2}+O(\nu^{-1})\right)\\
&=&\exp\left(-\frac{\lambda(x-\mu)^2}{2}+O(\nu^{-1})\right)\tag{2}
\end{eqnarray}

(1)で、テイラー展開より成り立つ式\ln(1+\epsilon)=\epsilon+O(\epsilon^2)を用いました。

(2)において、\nu\rightarrow\inftyとします。

\begin{eqnarray}
\lim_{\nu\rightarrow\infty}\exp\left(-\frac{\lambda(x-\mu)^2}{2}+O(\nu^{-1})\right)=\exp\left(-\frac{\lambda(x-\mu)^2}{2}\right)\tag{3}
\end{eqnarray}

(3){\mathcal N}(x|\mu,\lambda^{-1})カーネル(分布の主要な箇所)になっていることが分かります。

\nu\rightarrow\inftyの極限でt分布がガウス分布になることが示せました。

目次へ戻る