機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

確率的主成分分析

確率的主成分分析の最尤推定 - 解析的に解く

はじめに 本記事は計算がややこしい箇所があるので、結果だけを見てもらってもいいかもしれません。 の最尤解 確率的主成分分析モデルの対数尤度は、でした。 は次のように定義されます。 確率的主成分分析モデルの対数尤度 をパラメータ に対して最大化する…

ベイズ的主成分分析をエビデンス近似とEMアルゴリズムで解く

はじめに 本記事は、確率的主成分分析の最尤推定をEMアルゴリズムで解く の続編的記事です。 ベイズ的主成分分析 グラフィカルモデルは以下です。確率的主成分分析では、 は定数でしたが 本記事のベイズ的主成分分析では、 を確率変数とします。主部分空間を…

確率的主成分分析

主成分分析の復習 さらっと主成分分析を復習しておきます。 データ集合 の共分散行列 の固有値 と固有ベクトル を求めます。 固有値の大きい順に 個選び、その固有値に対応する固有ベクトルとデータとの内積を取ったものが、 次元削減されたデータ となりま…

目次へ戻る