機械学習基礎理論独習

誤りがあればご指摘いただけると幸いです。数式が整うまで少し時間かかります。リンクフリーです。

勉強ログです。リンクフリーです
目次へ戻る

2021-10-01から1日間の記事一覧

PRML演習問題 1.35(基本) www

問題 とを使って変数ガウス分布のエントロピーがで与えられることを示せ。 参照 解答 式を式に代入します。式で、式と式を用いました。 式より、変数ガウス分布のエントロピーがで与えられることを示せました。 補足 問題文には、「を使って」とありますが、…

PRML演習問題 1.29(基本) www

問題 状態の離散確率変数を考え、イェンセンの不等式を使って、 確率分布のエントロビーがを満たすことを示せ。 参照 解答 式より、状態の離散確率変数の確率分布のエントロビーは以下のようになります。式において、とおくと、以下が成り立ちます。 ただし…

PRML演習問題 1.41(基本) www

問題 確率の加法・乗法定理を使って相互情報量がの関係を満たすことを示せ。 参照 解答 を計算します。式より、式が成り立ちます。

PRML演習問題 2.42(標準)

問題 ガンマ分布の平均、分散およびモードを求めよ。 参照 解答 平均を求めます。式でを用いました。 式より、ガンマ分布の平均が求まりました。を求めます。式でを用いました。分散を求めます。式より、ガンマ分布の分散が求まりました。モードを求めるため…

PRML演習問題 2.30(基本)

問題 に、の結果を用いて、を確かめよ。 参照 解答 式に、式を代入します。式より、式が示せました。

PRML演習問題 2.41(基本)

問題 ガンマ関数の定義から、ガンマ分布が正規化されていることを示せ。 参照 解答 式を積分します。式をと変数変換します。この時、です。式より、ガンマ分布が正規化されていることが示せました。

PRML演習問題 2.38(基本)

問題 二次形式を平方完成することで、との結果を導出せよ。 参照 解答 問題文だけだと字足らずなので、補足すると、 「事後分布の平均、分散が、で表されることを指数部分を平方完成することにより示せ。」 となります。の指数部分はであり、の指数部分はで…

PRML演習問題 2.8(基本)

問題 同時確率がであるようなつの変数とを考える。 これについて、次の2つの結果を証明せよ。ただしは、条件付き分布の下でのの期待値である。 条件付き分散についても同様である。 解答 式の右辺を計算します。式より、式が示せました。式で、式を導いたの…

ベイジアンネットワーク

ベイジアンネットワークとは ベイジアンネットワーク(有向グラフィカルモデル)は、 確率モデル上に存在する複数の変数の関係性をノードと矢印(有向リンク)を表現する記法です。 ここでは、有向非循環グラフ(DAG)と呼ばれる有向閉路を持たない有向グラフ(矢印…

目次へ戻る