PRML演習問題 2.12(基本) - 機械学習基礎理論独習

問題

連続変数 $x$ の一様分布は

$\begin{eqnarray} {\rm U}(x|a,b)=\frac{1}{b-a},\ \ \ a\leqslant x\leqslant b\tag{2.278} \end{eqnarray}$

で定義される。
この分布が正規化されていることを確かめ、この分布の平均と分散の式を求めよ。

解答

正規化されていることを確かめます。

$\begin{eqnarray} \int_a^b{\rm U}(x|a,b){\rm d}x&=&\int_a^b\frac{1}{b-a}{\rm d}x\\ &=&\frac{1}{b-a}\left[x\right]_a^b\\ &=&\frac{b-a}{b-a}\\ &=&1\tag{1} \end{eqnarray}$

平均を求めます。

$\begin{eqnarray} {\mathbb E}[x]&=&\int_a^bx{\rm U}(x|a,b){\rm d}x\\ &=&\int_a^b\frac{x}{b-a}{\rm d}x\\ &=&\frac{1}{2(b-a)}\left[x^2\right]_a^b\\ &=&\frac{b^2-a^2}{2(b-a)}\\ &=&\frac{(b-a)(b+a)}{2(b-a)}\\ &=&\frac{b+a}{2}\tag{2} \end{eqnarray}$

分散を求めるために、 ${\mathbb E}[x^2]$ を求めます。

$\begin{eqnarray} {\mathbb E}[x^2]&=&\int_a^bx^2{\rm U}(x|a,b){\rm d}x\\ &=&\int_a^b\frac{x^2}{b-a}{\rm d}x\\ &=&\frac{1}{3(b-a)}\left[x^3\right]_a^b\\ &=&\frac{b^3-a^3}{3(b-a)}\\ &=&\frac{(b-a)(a^2+2ab+b^2)}{3(b-a)}\\ &=&\frac{a^2+ab+b^2}{3}\tag{3} \end{eqnarray}$

分散を求めます。

$\begin{eqnarray} {\rm var}[x]&=&{\mathbb E}[x^2]-{\mathbb E}[x]^2\\ &=&\frac{a^2+ab+b^2}{3}-\left(\frac{b+a}{2}\right)^2\\ &=&\frac{a^2+ab+b^2}{3}-\frac{a^2+2ab+b^2}{4}\\ &=&\frac{4a^2+4ab+4b^2-3a^2-6ab-3b^2}{12}\\ &=&\frac{a^2-2ab+b^2}{12}\\ &=&\frac{(b-a)^2}{12}\tag{4} \end{eqnarray}$