問題 対数尤度関数とその下界(ただし)は、 点において同じ勾配を持つことを示せ。 参照 解答 問題文より、なので、この時であり、 式より、以下の式が成り立ちます。式の両辺をで微分して、とします。式より、題意が示せました。

問題 を示せ。 ただし、とはそれぞれとで定義されている。 参照 解答 との差を計算します。式より、式を示せました。 関連リンク 一般のEMアルゴリズム

問題 混合ベルヌーイ分布についての期待完全データ対数尤度関数をラグランジュ未定乗数法を用いて 混合係数の総和を一定に保ちつつについて最大化すると、Mステップ方程式が得られることを示せ。 参照 解答 を以下のようにおきます。の制約の下で最大化しま…

問題 混合ベルヌーイ分布についての期待完全データ対数尤度関数をについて最大化すると、 Mステップ方程式が得られることを示せ。 参照 解答 を以下のようにおきます。をで微分してとおきます。式でとおきました。 また、とおくことにより、次の更新式が得ら…

問題 との積でベルヌーイ分布の潜在変数と観測変数の同時分布を構成しよう。 この同時分布をについて周辺化するとが得られることを示せ。 参照 解答 同時分布は、以下のようになります。式をについて周辺化します。式より、式が示せました。 関連リンク 混合…