ガウシアン過程はノード数無限のニューラルネットワーク

  • ガウシアン過程でノンパラメトリックベイズをするとき、そのプライアの仮定とかデータの利用のルールはかなり単純
  • そしてそのノンパラ性は無限次元であり、データに応じてフレキシブルな結果をもたらすのだが
  • そのフレキシビリティをニューラルネットワークの枠組みで実現させようとすると、ネットワークの構成はガウシアン過程の単純さを繁栄したものとなるのだが
  • それとともに、無限次元性がニューラルネットワークのノード数→無限に対応してくる
  • さらに、これをディープラーニングとの関係で眺めると、カーネル関数の取りかた(その行列表現とその行列を多層対応すること(カーネルをそれに合わせて作る))ということになるそうだ
  • というわけで、pythonにnngpなるパッケージがあり(こちら)
  • それはTensorFlowで作ってあるので、TensorFlowを確認してみることにする→こちら