問題 確率的主成分分析モデルの対数尤度 をパラメータ に対して最大化すると、 の結果になることを確かめよ。 ただし、 はデータベクトルの平均である。 参照 解答 式 を を微分して、 とおきます。式 より、の結果になることを示せました。

問題 の多変量ガウス分布を考える精度行列(逆共分散行列) を対称行列と反対称行列(歪対称行列)の和の形で書くと、 反対称行列の項がガウス分布の指数部分には現れなくなるため、一般性を失うことなく精度行列は対称であるとしてよいことを示せ。 この結果か…

問題 正定値行列 は次の二次形式が、任意の実ベクトル について正になる ということで定義できる。 が正定値になる必要十分条件は、 で定義される のすべての固有値 が正となることであることを示せ。 参照 解答 まず、「全ての固有値が正」 「 が正定値行列…

問題 データ集合のサイズが増えるにつれて、モデルパラメータの事後分布に関する不確かさが 減少することについて説明した、次の行列の公式(付録 参照)を用いて、 の線形回帰モデルに関する不確かさ がを満たすことを示せ。 参照 解答 PRML演習問題 3.8(標準…

問題 ガウス分布に従う複数の目標変数 を持つ次の形の線形基底関数モデルを考える。ただし、である 入力基底ベクトル とそれに対応する目標ベクトル が訓練データ集合として与えられるとき、 パラメータ行列 の最尤推定解 のそれぞれの列が、等方性のノイズ…