必携の1冊
機械学習を学ぶ上で最適化数学は必須の項目です。
最適化数学の本として、超おすすめなのがこの本です。
数学的記法も易しいものを用いているので、数学が苦手な人も読めると思います。
数式の変形がとても丁寧なので、独学には最適です。
章ごとに説明していきます。
第1章 数学的準備
2次形式や固有値などの説明があります。
第2章 関数の極値
勾配や等高線などの説明があります。
第3章 関数の最適化
直線探索法、ニュートン法、共役勾配法についての説明があります。
第4章 最小二乗法
最小二乗法と連理方程式の解法について説明があります。
第5章 統計的最適化
最尤推定やEMアルゴリズムについて説明があります。
第6章 線形計画法
シンプレックス法や線形計画法における双対問題の説明があります。
第7章 非線形計画法
SVMを意識した凸計画法についての説明があります。
第8章 動的計画法
読んでいません。