過学習を防ぐために正則化とかドロップアウトをするやつ

odoketasugata.hatenablog.com ↑でちょっとだけ過学習が起きていたので,その回避策である正則化とドロップアウトを実装する.手書き数字digitsを多層パーセプトロンで学習して認識するやつの続き.これが前回の誤差関数のグラフ epoch=80以降で汎化誤差が上昇していった.正則化やドロップアウト…