問題 SVM回帰モデルのラグランジュ関数 について考える。 の に対する偏微分をそれぞれ零とおき、 その結果を代入することで双対ラグランジュ関数 が得られることを示せ。 参照 解答 式 に式 を代入します。式 を を微分して、 とおきます。式 と式 は同じで…

問題 出力値が であるロジスティック回帰モデルについて考える。 という形の を用いて、とすると、 対数尤度(の符号を反転したもの)に 乗ノルムの正則化項を加えたものは という形を取ることを示せ。 参照 解答 負の対数尤度を計算します。式 に 乗ノルムの…

問題 前問における および は、次の式を満たすことを示せ。ここで は で定義される関数である。 同様に以下の関係が成り立つことを示せ。 参照 解答 PRML演習問題 7.4(標準) www で示してあるので、解答は省略します。

問題 マージン最大の超平面のマージン は、以下の式を満たすことを示せ。ただし、 は を制約条件 および の下で解いて得られる解とする。 参照 解答 超平面 から点 までの距離は式 より、 なので、以下が成り立ちます。式 を 式 に代入します。式 を 式 に代…

問題 制約式 において、右辺の を任意の正数 で置き換えても、 マージン最大の超平面は変化しないことを示せ。 参照 解答 点 と分類境界までの距離 において、と定数倍してもと変わりません。 よって、題意が示せました。