PRML演習問題 8.4(標準) - 機械学習基礎理論独習

問題

表8.2で与えられる同時分布に対して分布 $p(a),p(b|c)$ および $p(c|a)$ を計算せよ。
その結果から $p(a,b,c)=p(a)p(c|a)p(b|c)$ を直接計算して示し対応する有向グラフを描け。

参照

表8.2

$a$	$b$	$c$	$p(a,b,c)\times1000$
$0$	$0$	$0$	$192$
$0$	$0$	$1$	$144$
$0$	$1$	$0$	$48$
$0$	$1$	$1$	$216$
$1$	$0$	$0$	$192$
$1$	$0$	$1$	$64$
$1$	$1$	$0$	$48$
$1$	$1$	$1$	$96$

解答

$p(a),p(b|c)$ は既にPRML演習問題 8.3(標準)で求めてあります。
ですので、 $p(c|a)$ を計算します。
確率の乗法定理より、 $p(c|a)=p(a,c) / p(a)$ なので、 $p(a,c)$ を計算します。
(既にPRML演習問題 8.3(標準)の式 $(11)$ ～式 $(14)$ で求めてあるので、計算結果のみを貼り付けます。)

$\begin{eqnarray} p(a=0,c=0)&=&0.24\tag{1}\\ p(a=0,c=1)&=&0.36\tag{2}\\ p(a=1,c=0)&=&0.24\tag{3}\\ p(a=1,c=1)&=&0.16\tag{4} \end{eqnarray}$

式 $(1),(2),(3),(4)$ より、 $p(a,c),p(a),p(c|a)$ を表にまとめます。
表1

$a$	$c$	$p(a,c)$	$p(a)$	$p(c\mid a)=p(a,c) / p(a)$
$0$	$0$	$0.24$	$0.6$	$0.24 / 0.6=0.4$
$0$	$1$	$0.36$	$0.6$	$0.36/0.6=0.6$
$1$	$0$	$0.24$	$0.4$	$0.24/0.4=0.6$
$1$	$1$	$0.16$	$0.4$	$0.16/0.4=0.4$

$p(a,b,c),p(a),p(c|a),p(b|c),p(a)p(c|a)p(b|c)$ を表にまとめます。
表2

$a$	$b$	$c$	$p(a,b,c)$	$p(a)$	$p(c\mid a)$	$p(b\mid c)$	$p(a)p(c\mid a)p(b\mid c)$
$0$	$0$	$0$	$0.192$	$0.6$	$0.4$	$0.8$	$0.6\times0.4\times0.8=0.192$
$0$	$0$	$1$	$0.144$	$0.6$	$0.6$	$0.4$	$0.6\times0.6\times0.4=0.144$
$0$	$1$	$0$	$0.048$	$0.6$	$0.4$	$0.2$	$0.6\times0.4\times0.2=0.048$
$0$	$1$	$1$	$0.216$	$0.6$	$0.6$	$0.6$	$0.6\times0.6\times0.6=0.216$
$1$	$0$	$0$	$0.192$	$0.4$	$0.6$	$0.8$	$0.4\times0.6\times0.8=0.192$
$1$	$0$	$1$	$0.064$	$0.4$	$0.4$	$0.4$	$0.4\times0.4\times0.4=0.064$
$1$	$1$	$0$	$0.048$	$0.4$	$0.6$	$0.2$	$0.4\times0.6\times0.2=0.048$
$1$	$1$	$1$	$0.096$	$0.4$	$0.4$	$0.6$	$0.4\times0.4\times0.6=0.096$

表2より、 $p(a,b,c)=p(a)p(c|a)p(b|c)$ が示せました。

対応する有向グラフは、以下のようになります。
f:id:olj611:20210917085430p:plain:w400