機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

PRML演習問題 1.7(標準) www

問題

この演習問題では.、1変数ガウス分布に関する規格化条件(1.48)を証明するこのために、積分

\begin{eqnarray}
I=\int_{-\infty}^\infty\exp\left(-\frac{1}{2\sigma^2}x^2\right){\rm d}x\tag{1.124}
\end{eqnarray}
を考え、その2乗を
\begin{eqnarray}
I^2=\int_{-\infty}^\infty\int_{-\infty}^\infty\exp\left(-\frac{1}{2\sigma^2}x^2-\frac{1}{2\sigma^2}y^2\right){\rm d}x{\rm d}y\tag{1.125}
\end{eqnarray}

の形で書いて評価する直交座標系(x,y)から極座標(r,\theta)に変換し、u=r^2を代入する。
\thetauに関する積分を実行し、両辺の平方根を取ることにより、

\begin{eqnarray}
I=(2\pi\sigma^2)^{1 / 2}\tag{1.126}
\end{eqnarray}
が得られることを示せ。
最後にこの結果からガウス分布{\mathcal N}(x|\mu,\sigma^2)が規格化されていることを示せ。

参照

\begin{eqnarray}
\int_{-\infty}^\infty{\mathcal N}(x|\mu,\sigma^2){\rm d}x=1\tag{1.48}
\end{eqnarray}

解答

x=r\cos \theta,y=r\sin\thetaとおきます。
ヤコビアンJを計算します。

\begin{eqnarray}
J&=&\begin{vmatrix}\dfrac{\partial x}{\partial r} & \dfrac{\partial x}{\partial \theta}\\ \dfrac{\partial y}{\partial r} & \dfrac{\partial y}{\partial \theta}\end{vmatrix}\\
&=&\begin{vmatrix}\cos\theta & -r\sin\theta\\ \sin\theta & r\cos\theta\end{vmatrix}\\
&=&r\cos\theta^2+r\sin^2\theta\\
&=&r\tag{1}
\end{eqnarray}
(1.125)を計算します。
\begin{eqnarray}
I^2&=&\int_{-\infty}^\infty\int_{-\infty}^\infty\exp\left(-\frac{1}{2\sigma^2}x^2-\frac{1}{2\sigma^2}y^2\right){\rm d}x{\rm d}y\\
&=&\int_0^{2\pi}\int_0^\infty\exp\left(-\frac{1}{2\sigma^2}r^2\right)r{\rm d}r{\rm d}\theta\\
&=&\int_0^{2\pi}{\rm d}\theta\int_0^\infty\exp\left(-\frac{1}{2\sigma^2}r^2\right)r{\rm d}r\\
&=&\biggl[\theta\biggr]_0^{2\pi}\left[-\sigma^2\exp\left(-\frac{1}{2\sigma^2}r^2\right)\right]_0^\infty\\
&=&(2\pi-0)\cdot(0+\sigma^2)\\
&=&2\pi\sigma^2\tag{2}
\end{eqnarray}
(2)平方根を取ると以下のようになります。
\begin{eqnarray}
I=(2\pi\sigma^2)^{1 / 2}\tag{3}
\end{eqnarray}
(3)より、式(1.126)が示せました。

ガウス分布{\mathcal N}(x|\mu,\sigma^2)積分します。

\begin{eqnarray}
\int_{-\infty}^\infty{\mathcal N}(x|\mu,\sigma^2){\rm d}x&=&\int_{-\infty}^\infty\frac{1}{(2\pi\sigma^2)^{1 / 2}}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right){\rm d}x\\
&=&\frac{1}{(2\pi\sigma^2)^{1 / 2}}\int_{-\infty}^\infty\exp\left(-\frac{y^2}{2\sigma^2}\right){\rm d}y\tag{4}\\
&=&\frac{1}{(2\pi\sigma^2)^{1 / 2}}(2\pi\sigma^2)^{1 / 2}\\
&=&1\tag{5}
\end{eqnarray}
(4)y=x-\muと変数変換しました。(平行移動と考えてもよいので、変数を変えなくてもよいと思います。)
(5)より、ガウス分布{\mathcal N}(x|\mu,\sigma^2)が規格化されていることが示せました。

目次へ戻る