深層学習をフルスクラッチで

深層学習(Deep Learning)は、多層の人工ニューラルネットワークを効率よく学習させるために開発されたアルゴリズムとして考えることができる。

多層ニューラルネットワークでは、出力された値から正解値との誤差を計算し、これを入力方向に伝搬することで、すべての重みを適正な値に更新する「誤差逆伝搬(バックプロパゲーション)」のアルゴリズムの理解が必須であるが、この誤差逆伝搬の数学的な理論を解説し、そのアルゴリズムを理解する。
パイソンによるフルスクラッチの実装を行い、その動作を確認する。
そして、MNISTデータセットの手書き文字を分類するために、パイソンで実装した多層ニューラルネットワークをトレーニングし、認識精度を確認する。

画像分類問題で並はずれた性能を発揮する畳み込みニューラルネットワーク(CNN)において、畳み込み層とプーリング層と過学習対策のドロップアウトの解説を行い、パイソンによるフルスクラッチの実装を行い、その動作を確認する。
そして、MNISTデータセットの手書き文字を分類するために、パイソンで実装した畳み込みニューラルネットワークをトレーニングし、認識精度の向上を確認する。