隠れノードを簡単に増やす

  • ロジスティック分類をするとして、空間座標を用いて尤度関数を作り、それを最大にするような分類直線を引くにあたり、隠れノードを入れることで多数の直線で空間を仕切ることができる
  • TensorFlowの簡単なところは、その隠れノードの数をパラメタとして指定するだけで、ほかのコードは変えずに、複雑な処理ができること
  • こちらのhidden1_unitsの指定整数を変えるだけ
  • 分類を複雑にするには、層の数は固定して、その層のノードの数を増やすことでも可能だが、それで実現できる複雑さには、定性的な制限がある。層を増やすと、表現できるモデルの複雑さが定性的にあげられる。その話がTensorFlow Tutorialの数学的背景 − TensorFlow Mechanics 101(その2) - めもめもこちら
  • 画像学習に適した畳み込みネットワーク。畳み込みフィルタを指定することもできれば、それ自体を学習の対象にすることもできるけれど、その切り替えがコード1行分だ、というのも、TensorFlowの強み。そのことに関する記事がこちら