目次へ戻る以下の内容は予告なしに変更します。 本ブログを立ち上げた経緯 元々Youtubeに私が機械学習で勉強したことを上げていたのですが、 動画作成後に誤植に気づくことが多く、困っていました。 ブログなら修正や追加が簡単にできるので、本ブログをたち…

要件 個のデータに当てはまる曲線を求めたい。 モデルの定義 予測曲線(モデル)をとします。 目的関数の定義 あるデータに着目する。 の予測値はです。 との差の2乗はです。 これを全データについて足し合わせたものを目的関数とします。はで偏微分した式を奇…

要件 個のデータに当てはまる直線を求めたい。 モデルの定義 予測直線(モデル)をとします。 目的関数の定義 あるデータに着目する。 の予測値はです。 との差の2乗はです。 これを全データについて足し合わせたものを目的関数とします。はで偏微分した式を奇…

本記事では共分散行列 の代わりにその逆行列である精度行列 を用います。 多次元ガウス分布 多次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度行列 を用いて表すと以下のようになります。(2)の式変形では を使用しました。 対数を取ってみ…

本記事では分散 の代わりにその逆数である精度パラメータ を用います。 1次元ガウス分布 1次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度パラメータ を用いて表すと以下のようになります。対数を取ってみます。 ガウス-ガンマ分布 ガウス…

このページをブックマークしておくと便利かもしれません。 予約投稿している記事は予約投稿日が来るまで見れません。 本ブログの基本方針と今後の予定 ページ内リンク系列データ グラフィカルモデル K-means法 EMアルゴリズム 変分推論 サンプリング 確率的…

本記事では共分散行列 の代わりにその逆行列である精度行列 を用います。 多次元ガウス分布 多次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度行列 を用いて表すと以下のようになります。(2)の式変形では を使用しました。 対数を取ってみ…

本記事では分散 の代わりにその逆数である精度パラメータ を用います。 1次元ガウス分布 1次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度パラメータ を用いて表すと以下のようになります。対数を取ってみます。 ガンマ分布 ガンマ分布は…

本記事では共分散行列 の代わりにその逆行列である精度行列 を用います。 多次元ガウス分布 多次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度行列 を用いて表すと以下のようになります。(2)の式変形では を使用しました。 対数を取ってみ…

本記事では分散 の代わりにその逆数である精度パラメータ を用います。 1次元ガウス分布 1次元ガウス分布は以下のように表されるのでした。 です。 (1)を精度パラメータ を用いて表すと以下のようになります。対数を取ってみます。 事後分布 ガウス分布に従…

カテゴリ分布 カテゴリ分布は以下のように表されるのでした。 が確率変数で、がパラメータです。 カテゴリ分布に対数を取ったものは以下のようになります。例えば、すべてのに対してとおけば、さいころの出目に関する分布を表現できます。 ディレクレ分布 デ…

変分推論とは 変分推論は確率分布の近似手法です。 ある確率分布を、より簡単な近似分布で表現できないか考えます。 は分布の距離のようなものなので、これが小さくなるようにします。 単純にとするのではなく、にある制限を設けます。 のように各確率変数に…