問題 潜在変数を持つモデルに関して、データ集合 を観測した下での事後分布 を、 EMアルゴリズムを用いて について最大化する問題を考える。 このとき、Eステップは最尤推定問題の場合と同じであるのに対し、 Mステップでは、最大化すべき量が で与えられる…

問題 超パラメータ に対して、RVM回帰モデルの周辺化対数尤度 の 階微分を取ることで、 で与えられる停留点が周辺尤度の極大値であることを示せ。 参照 解答 式 を で微分します。式 を で微分します。念のため、式 が停留点であることを確認します。式 より…

問題 および を用いて、周辺化尤度 が の形に変形できることを示せ。 ただし、 および、品質／疎性パラメータはそれぞれ で定義されているとする。 参照 解答 式 を計算します。式 より、式 が示せました。

問題 RVM問帰モデルの予測確率分布が で与えられることを示せ。 また、その予測分布の分散が で与えられることも示せ。 参照 解答 本解答の は式 において、 及び としたものです。式 の を計算します。式 において、 と対応させると、 式 は以下のようにな…

問題 本文では、RVM回帰モデルに関して、 の周辺化尤度の最大化から、更新式 および を導いた。 超パラメータの事前分布を の形のガンマ分布に変更したときの と に対する更新式を、 同様に事後確率 を と に対して最大化することで導出せよ。 参照 解答 の…

問題 RVM回帰モデルについて周辺化対数尤度 を直接最大化すると、 更新式 および が得られることを示せ。 ただし、 は で与えられるものとする。 参照 解答 本解答は、長くなるので流れを記します。 1. 対数周辺尤度を で表す。 2. 対数周辺尤度を で微分し…