つくりながら学ぶ！深層強化学習

ＰｙＴｏｒｃｈによる実践プログラミング

マイナビ出版
小川雄太郎　

• 価格: 3,608円（本体3,280円＋税）
• 発行年月: 2018年06月
• 判型: Ｂ５
• ISBN: 9784839965624

内容情報

[BOOKデータベースより]

強化学習、さらにディープラーニングを組み合わせた深層強化学習を分かりやすく解説。Ｐｙｔｈｏｎ＋ＰｙＴｏｒｃｈで「倒立振子課題」「迷路」「ブロック崩し」を攻略するプログラミングを実装していきます。

第１章　強化学習の概要
第２章　迷路課題に強化学習を実装しよう
第３章　倒立振子課題に強化学習を実装しよう
第４章　ＰｙＴｏｒｃｈでディープラーニングを実装しよう
第５章　深層強化学習ＤＱＮを実装しよう
第６章　深層強化学習の発展版を実装しよう
第７章　ＡＷＳのＧＰＵ環境でブロック崩しを実装しよう

[日販商品データベースより]

強化学習、さらにディープラーニングを組み合わせた深層強化学習DQN（Deep Q-Network）という用語を目にする機会が増えています。本書は関連の概念を分かりやすく解説しつつ、Python＋PyTorchで「倒立振子課題」「迷路を解くプログラム」「ブロック崩しの攻略」を実装していきます。

第1章「強化学習の概要」では機械学習とその3分類（教師あり学習、教師なし学習、強化学習）について紹介します。

第2章「迷路課題に強化学習を実装しよう」では、簡単な強化学習（方策勾配法、Sarsa、Q学習）のコードをひとつずつ実装しながら、強化学習のアルゴリズムと実装方法を理解します。迷路を最短ルートでゴールするよう強化学習させます。

第3章「倒立振子課題に強化学習を実装しよう」では、2章で学んだ強化学習の基本をより複雑な課題への適用します。倒立振子とは、“ほうきを手のひらの上に立てる”遊びと同じ内容でその制御ルールを強化学習させます。Anacondaを用いたセットアップ方法も解説します。

第4章「Pytorchでディープラーニングを実装しよう」では、ディープラーニングの内容を理解し、PyTorchで実装します。ニューラルネットワークとディープラーニング発展の歴史、学習フェイズと推論フェイズについて解説。最後に手書き数字の画像を分類するMNIST課題を実装解説します。

第5章「深層強化学習DQNを実装しよう」では、強化学習にディープラーニングを組み合わせた“深層強化学習”を理解し、DQNを実装できるようにします。第3章の倒立振子課題に対してDQNを実装します。

第6章「深層強化学習の発展版を実装しよう」では、新しい深層強化学習の手法、Double-DQN、Dueling Network、Prioritized Experience Replay、そしてA3C、A2Cを理解し、実装できるようにします。

第7章「AWSのGPU環境でブロック崩しを実装しよう」では、ブロック崩しゲームを対象に深層強化学習のA2Cを実装します。実行環境としてAmazonのクラウドサービスAWSのGPU環境を使用する方法も解説します。

深層強化学習はまだまだ解決すべき課題の多い分野です。本書が深層強化学習に興味を持つ皆様の一助となれば幸いです。