問題 つの変数 を考え、同時分布を とする。 この変数の組の微分エントロピーがを満たし、等号は と が統計的に独立なとき、またそのときに限ることを示せ。 参照 解答 を計算します。式 より、式 が示せました。 式 より、式 の等号が成り立つのは、 の時で…

問題 ベイズ線形回帰モデルについて、 節におけるエビデンスの枠組みを用いて、 パラメータ に関する と同様の、パラメータ に関する ステップ更新式を導け。 参照 解答 本解答における期待値 は事後分布 に関する期待値 です。 を で微分して、 とおきます…

問題 有向分離を用いて、図 の有向グラフで表現される状態空間モデルにおける 観測データの分布 が何の条件付き独立性も満足せず、 したがって、どのような有限次数のマルコフ性ももたないことを示せ。 参照 図 解答 任意の つの変数 について考えます。 こ…

問題 混合ガウスモデルを考え、 潜在変数の周辺分布 が で、観測変数の条件付き分布 が でそれぞれ与えられると仮定する。 を の可能な値について足して得られる周辺分布 が の形の混合ガウス分布になることを示せ。 参照 解答 を で周辺化することにより、 …

問題 の形の混合分布で、与えられる密度のモデルを考え、ベクトル を のように2つの部分に分解すると仮定する。 このとき、条件付き密度 自体が混合分布であることを示し、混合係数と各混合要素の表式を求めよ。 解答 は、式 より、以下のようになります。式…

問題 ベイズ線形回帰モデルについて、期待完全データ対数尤度関数 の最大化は に関する ステップの更新式 を導くことを示せ。 参照 解答 本解答における期待値 は事後分布 に関する期待値 です。 を で微分して、 とおきます。 を計算します。式 の式変形は…