データからの学習 ぱらぱらめくる『スパース性に基づく機械学習』

  • 学習と言う意味で、回帰・分類・最適化は似たり寄ったり
  • クロス・バリデーション
  • 行列のランク
    • 線形独立な列の数
    • 線形独立な行の数
    • 行列が作る連立1次方程式の独立な方程式の数
    • 非ゼロ特異値の数
  • 汎化と過剰適合
  • 平均ケース評価と最悪ケース評価
  • 期待値と分散と不偏推定量
  • ノルム
    • 斉次生
    • 劣加法性
    • 独立性
  • 制約付き最小化問題と罰則項付き最小化問題の等価性