問題
次導関数を考えることによって、 節で説明した因子分析モデルの対数尤度関数の、
パラメータ に対する唯一の停留点が、 で定義されたサンプル平均で与えられることを示せ。
さらに、この停留点が最大値を与えることを示せ。
参照
解答
周辺分布 は以下で与えられます。(PRML p302より)
式 より、尤度関数は、以下のようになります。
式 より、対数尤度関数は、以下のようになります。
式 を を微分して、 とおくと、PRML演習問題 12.9(基本)と同じ式になるので、以下のようになります。
式 より、 に対する唯一の停留点が、 で定義されたサンプル平均で与えられることが示せました。
また、 の に関するヘッセ行列は、PRML演習問題 12.10(標準)より、以下のようになります。
以外の任意のベクトル について、 を計算します。
式 は と仮定しました。
式 より、 は正定値行列であるので、 は正定値行列です。
式 より、 の に関するヘッセ行列は負定値行列なので、狭義凹関数であり、
停留点 が唯一の最大値を与える点となります。