Python による 数値解析入門第１２巻目的関数の最適化

Python を用いて数値解析手法を理解するための入門書である。
第１２巻では，目的関数の最適化について取り上げる。
このテーマは，ニューラルネットなど多くの学習方式，適応システム等にも適用される
基礎となる考え方なので是非理解しておきたい。
12.1節では最適化問題と目的関数の考え方，手法の種類について解説する。
12.2節では山登り法/山下り法の最も単純な局所探索繰り返し法，そのN次元への拡張，
滑降シンプレックス法について示す。
12.3節では１次元の勾配法，そのN次元への拡張，さらに最急降下法について示す。
特にN次元の場合は，偏微分値を求めることができないときの対処法について示す。
12.4節ではニュートン・ラプソン法について，１次元とN次元について示す。
特にN次元の場合，偏微分値を求めることができないときの対処法について示す。
12.5節では，変数の値域が決まっている場合の対処方法，
実験値／観測値等のときの補間方法，
変数依存関係がある場合の対処方法について示す。