問題 の形の混合分布を考える。 ここに、は離散、連続、その組み合わせのいずれでもよい。 の平均と共分散をそれぞれとで表す。 混合分布の平均と共分散がそれぞれとで与えられることを示せ。 参照 解答 平均を計算します。式より、式が成り立ちます。共分散…

問題 もし負担率を固定した下で、をとについての最大化をしようとすると、 とで与えられる陽な解が得られることを示せ。 参照 解答 まず、に関する最大化についてです。ここで使用する行列の微分やトレースの公式を書き出します。準備として、を求めます。式…

問題 もし負担率を固定した下で、をについての最大化をしようとすると、 で与えられる陽な解が得られることを示せ。 参照 解答 準備として、を求めます。式をで微分してとおきます。式より、が示せました。

問題 図で示すような、混合ガウスモデルの有向グラフを考える。 節で議論した有向分離の規準を利用して、 潜在変数の事後分布が次式のように各データ点ごとの事後分布の積になることを示せ。 参照 図 解答 図をプレートを使わないで描くと、次のようになりま…

条件付き独立性 3変数を考えます。 およびが与えられたとき、の条件付き分布がの値に依存しないとします。 式で書くと以下のようになります。このとき、が与えられた下で、はに対して、条件付き独立であるといいます。 この条件付き独立は次のようにも表せま…

問題 有向グラフにおいて、マルコフブランケット内のすべてのノードに条件付けられたノードの条件付き分布が、 グラフの残りの変数に対して独立であることを有向分離規準を用いて示せ。 解答 有向分離基準を適用するには、中央ノードからマルコフブランケッ…

問題 つのガウス分布との間の カルバック-ライブラーダイバージェンスを計算せよ。 参照 解答 を計算します。式で、式で用いました。 式で、式で用いました。 式の第1項にとを代入します。式でを用いました。 式を式に代入します。式より、つのガウス分布と…