ランダムウォークMH法 - 機械学習基礎理論独習

ランダムウォークMH法では候補の提案を

$\begin{eqnarray} a=\theta^{(t)}+\epsilon\tag{1} \end{eqnarray}$

とします。
ここで $\epsilon$ は平均 $0$ の正規分布や、区間 $[-\delta,\delta]$ の一様分布など、対象な分布からの実現値です。
例えば、提案分布を正規分布とし、分散を固定すると、以下の等式が成り立ちます。

$\begin{eqnarray} \mathcal{N}(a|\theta^{(t)},\sigma^2)=\mathcal{N}(\theta^{(t)}|a,\sigma^2)\tag{2} \end{eqnarray}$

ですので、一般的な書き方をすると次式です。

$\begin{eqnarray} q(a|\theta^{(t)})=q(\theta^{(t)}|a)\tag{3} \end{eqnarray}$

このためランダムウォークMH法における補正係数は

$\begin{eqnarray} r=\frac{f(a)}{f(\theta^{(t)})}\tag{4} \end{eqnarray}$

となります。

f:id:olj611:20210518194356p:plain:w300
慣習とは反対の道を行け。そうすれば常に物事はうまくいく。
ルソー

なし