遺伝学・遺伝統計学関連の姉妹ブログ『ryamadaの遺伝学・遺伝統計学メモ』
京都大学大学院医学研究科ゲノム医学センター統計遺伝学分野のWiki
講義・スライド
医学生物学と数学とプログラミングの三重学習を狙う学習ツール
駆け足で読む○○シリーズ
ぱらぱらめくるシリーズ
カシオの計算機
オンライン整数列大辞典

L1ノルム正則化のための最適化法　ぱらぱらめくる『スパース性に基づく機械学習』

ぱらぱらめくるシリーズ 機械学習 スパース
  • 最適化法の種類
    • 繰り返し重み付き縮小法
      • 損失項とリッジ正則化項の和が効率的に最小化できることを仮定する
    • (加速付き)近接勾配法
      • 損失項の滑らかさだけを仮定する
    • 双対拡張ラグランジュ法
      • 最小化関数が損失関数とデータ行列とに分解できることを必要とする
    • 双対向後方向乗数法
      • 双対拡張ラグランジュ法と同様の条件を必要とする。その上で、最小化関数が二乗誤差の場合にコレスキー分解を活用することで効率化する