付録 Background Material:ぱらぱらめくる『Probabilistic Graphical Models』
- 情報理論 Information theory
- 圧縮とエントロピー
- 条件付きエントロピーと情報
- 相対的エントロピーと分布間距離
- 収束限界
- 中心極限定理
- 収束限界
- アルゴリズムとアルゴリズムの複雑さ
- 組合せ最適化と探索
- 最適化問題
- 局所探索
- 分枝限定法(Branch and bound algorithm)
- Continuous optimization(連続変数の最適化)
- 連続関数の最適とは何かを特徴づける
- Gradient ascent 法
- Constrained optimization(制約付き最適化)
- 連続変数の制約付き最適化を別の面からみた問題に切り替える(convex duality)