人工知能の理論のプログラム

人工知能の理論の中核をなす機械学習のアルゴリズムを解説し、パイソンのプログラムで実現する。

機械学習には、大きく分けると、教師あり学習、教師なし学習、強化学習がある。

教師あり学習は、ラベル付けされたトレーニングデータからモデルを学習し、未知のデータを予測することである。

教師あり学習には、連続値を予測する回帰分析と、離散値を予測する分類がある。

回帰分析では、観測データに内在する関数を見出すために、その関数を多項式と仮定し、観測データとの二乗誤差を最小にする多項式の係数を決定する最小二乗法のアルゴリズムを解説し、パイソンによる実装を行い、その動作を確認し、理解を深める。
また、観測データが得られる確率を多項式の係数の関数とみなし、その確率を最大にする多項式の係数を決定する最尤推定法のアルゴリズムを解説し、パイソンによる実装を行い、その動作を確認し、理解を深める。

分類では、パーセプトロンのパラメーターを誤差関数の確率的勾配降下法によって更新するアルゴリズムを解説し、パイソンによる実装を行い、その動作を確認し、理解を深める。
また、パーセプトロンのパラメーターを最尤推定法で決定するロジスティック回帰の解説を行い、パイソンによる実装を行い、その動作を確認し、理解を深める。

教師なし学習では、ラベル付けされていないデータや構造が不明なデータを扱う。教師なし学習の手法を用いることで、データの隠れた構造を調べることで意味のある情報を取り出すことができる。

クラスタリングは、大量の情報を意味のあるグループ（クラスタ）として構造化できる探索的データ解析の手法である。

k平均法では、二乗歪みを定義し、これを最小化するクラスタリングを行う。パイソンによる実装を行い、その動作を確認し、理解を深める。

EMアルゴリズム（期待値最大化アルゴリズム）は、確率分布を用いた最尤推定法によるクラスタリングを行う。パイソンによる実装を行い、その動作を確認し、理解を深める。

ベイズ推定は、ベイズの定理により、多くの観測事象が利用可能になると、仮説を確率的な意味で推論することができ、仮説の確率を更新するために使用される。
このベイズ推定を回帰分析に適応させ、パイソンによる実装を行い、その動作を確認し、理解を深める。

強化学習は、エージェントが、ある環境内で、行動することで報酬を得ることができるが、一連の行動を通じて報酬が最も多く得られるような方策を学習する機械学習の一種である。
環境はマルコフ決定過程で記述される。
古典的な動的計画法と強化学習アルゴリズムの主な違いは、後者はマルコフ決定過程の正確な数学モデルを前提としておらず、正確な方法が実行不可能になる大きなマルコフ決定過程を対象としている。
古典的な動的計画法のアルゴリズムであるポリシー反復法や価値反復法を解説し、パイソンによる実装を行い、その動作を確認し、理解を深める。
さらに、先進的なQ-LearningやDQN（Deep Q Network）を解説し、パイソンによる実装を行い、その動作を確認し、理解を深める。