ガウシアン過程はノード数無限のニューラルネットワーク
- ガウシアン過程でノンパラメトリック・ベイズをするとき、そのプライアの仮定とかデータの利用のルールはかなり単純
- そしてそのノンパラ性は無限次元であり、データに応じてフレキシブルな結果をもたらすのだが
- そのフレキシビリティをニューラルネットワークの枠組みで実現させようとすると、ネットワークの構成はガウシアン過程の単純さを繁栄したものとなるのだが
- それとともに、無限次元性がニューラルネットワークのノード数→無限に対応してくる
- さらに、これをディープラーニングとの関係で眺めると、カーネル関数の取りかた(その行列表現とその行列を多層対応すること(カーネルをそれに合わせて作る))ということになるそうだ
- というわけで、pythonにnngpなるパッケージがあり(こちら)
- それはTensorFlowで作ってあるので、TensorFlowを確認してみることにする→こちら