機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

PRML演習問題 8.23(標準) www

問題

8.4.4 節において、因子グラフの変数ノード x_i 上の周辺分布 p(x_i) が、
隣接因子ノードからこのノードに伝わるメッセージの積として (8.63) の形で与えられることを示した。
x_i に接続されるリンクを 1 つ選んだとする。
周辺分布 p(x_i) はこの 1 つのリンクに沿って入ってくるメッセージと同じリンクに沿って出ていく
メッセージとの積として書くこともできることを示せ。

参照

\begin{eqnarray}
p(x)&=&\prod_{s\in{\rm ne}(x)}\left(\sum_{X_s}F_s(x,X_s)\right)\\
&=&\prod_{s\in{\rm ne}(x)}\mu_{f_s\rightarrow x}(x)\tag{8.63}
\end{eqnarray}

\begin{eqnarray}
\mu_{x_m\rightarrow f_s}(x_m)&=&\prod_{l\in{\rm ne}(x_m)\backslash f_s}\left(\sum_{X_{lm}}F_l(x_m,X_{lm})\right)\\
&=&\prod_{l\in{\rm ne}(x_m)\backslash f_s}\mu_{f_l\rightarrow x_m}(x_m)\tag{8.69}
\end{eqnarray}

解答

x_i に接続されるリンクを f_s とすると、式 (8.63) は次のように書けます。

\begin{eqnarray}
p(x)&=&\prod_{s\in{\rm ne}(x)}\mu_{f_s\rightarrow x}(x)\\
&=&\mu_{f_s\rightarrow x}(x)\prod_{t\in{\rm ne}(x)\backslash f_s}\mu_{f_t\rightarrow x}(x)\\
&=&\mu_{f_s\rightarrow x}(x)\underbrace{\mu_{x_i\rightarrow f_s}(x)}_{(8.69)}\tag{1}
\end{eqnarray}

(1) より、周辺分布 p(x_i) は接続されるリンクに沿って出入りするメッセージとの積として書くこともできることが示せました。

目次へ戻る