問題
多変量ガウス分布の共分散行列の最尤推定解を求めるには、共分散行列が対称で正定値である制約の下で
について対数尤度関数 を最大化しなくてはならない。
ここでは、こうした制約を無視して、ただ最大化することにする。
付録 の 、および の結果を用いて、対数尤度関数 を最大化する共分散行列 が、
サンプル共分散 となることを示せ。
なお(サンプル共分散が非特異なら)最終結果は対称かつ、正定値である必要がある。
参照
解答
式 を で微分して、 とおきます。
式 より、対数尤度関数を最大化する共分散行列 が、サンプル共分散 となることが示せました。
また、 に対する対称性を仮定せずに、最尤解を求めると が対象行列になることが分かりました。
補足
に関する証明は、ベクトルと行列に関する微分の公式導出 を参照ください。