機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

グラフィカルモデル

積和アルゴリズム

仮定 以下の議論では,モデルの持つすべての変数は離散的であると仮定します。 また、もともとのグラフは無向木、有向木あるいは多重木のいずれかであると仮定します。 すると、これを変換してできる因子グラフは木構造を持ちます。 因子グラフにおける同時…

因子グラフ

因子グラフによる因数分解 ある変数集合上の同時分布を因子の積の形で書いてみます。式 の は変数の部分集合を表します。有向グラフでは、以下の式によって、因数分解が定義されますが、これは式 の特別な場合です。無向グラフでは、以下の式によって、因数…

木 ノードの連鎖から成るグラフでは、連鎖に沿ったメッセージの伝播によって、効率の良い推論ができることを確認しました。 実はより一般に、木と呼ばれる広いクラスのグラフでも同様の効率的な推論が可能です。無向グラフの場合、木とは任意のノードの組の…

マルコフ確率場

マルコフ確率場(マルコフネットワークまたは無向グラフィカルモデル)は、 変数に対応するノード集合とノード対を接続する無向リンク集合からなります。 条件付き独立性 無向グラフは有向グラフのようなhead-to-headのような分かりにくい現象は発生しません。…

連鎖における推論

周辺分布の推論 以下の図1の(b)において、を考えます。図1 図1の(b)の同時分布は次のように書けます。は以外の全ての変数で周辺化することによって求められます。ところで、式をそのまま計算するのは計算効率が悪いので、効率よく計算する式は以下で与えられ…

条件付き独立性

条件付き独立性 3変数を考えます。 およびが与えられたとき、の条件付き分布がの値に依存しないとします。 式で書くと以下のようになります。このとき、が与えられた下で、はに対して、条件付き独立であるといいます。 この条件付き独立は次のようにも表せま…

ベイジアンネットワーク

ベイジアンネットワークとは ベイジアンネットワーク(有向グラフィカルモデル)は、 確率モデル上に存在する複数の変数の関係性をノードと矢印(有向リンク)を表現する記法です。 ここでは、有向非循環グラフ(DAG)と呼ばれる有向閉路を持たない有向グラフ(矢印…

目次へ戻る