最適化アルゴリズム

最適化アルゴリズムを取り扱う。今回のネットワークだとさほど恩恵はないが知っていて損はない。まずはモーメンタムから解説＆実験をしてい最初は復習を兼ねて勾配降下法についても確認する。