作ってわかる大規模言語モデルの仕組み

Ｐｙｔｏｒｃｈ入門講座付き

日経ＢＰ 日経ＢＰマーケティング
井上顧基　下垣内隆太　高島直也　澤風吹　

• 価格: 3,630円（本体3,300円＋税）
• 発行年月: 2026年03月
• 判型: Ｂ５
• ISBN: 9784296205257

内容情報

[BOOKデータベースより]

３段階で理解が進む。図解や平易な解説で直感的に分かる→実際に動くＰｙＴｏｒｃｈコードで理解→理論的な背景は数式で補足。

線形代数に関する補足
第１章　大規模言語モデルの歴史と本書で得られること
第２章　Ｔｒａｎｓｆｏｒｍｅｒモデルの作成
第３章　ＧＰＴモデルの作成
第４章　大規模言語モデルの学習
第５章　アラインメント
第６章　推論モデル
付録

[日販商品データベースより]

ChatGPTが使う大規模言語モデル（LLM）「GPT」を一から作りながら、LLMの基本から実装まで体系的に学べます！

【本書の特徴】
●Transformerの基礎からGPTモデルまで一から作りながら学べる
●「人間の意図に沿った応答」を生成するアラインメント（SFT、DPO）の仕組みを実装で学べる
●最新の推論強化モデルまでカバー

【LLMの仕組みを3段階で理解】
●図解や平易な解説で直感的に分かる
●実際に動くPyTorchコードで理解
●理論的な背景は数式で補足

Transformerモデルを作った後、GPT-2相当のLLMを実装。さらにGPT-2だけでは実現できなかった「人間の意図に沿った応答」を生成するための技術（SFT、DPO）を、実際のコードで体験します。多数のGPUを使った大規模学習をするための分散学習についてもコードを示しながら解説します。

現代の大規模言語モデルがどのように作られているのか―、その本質をこの1冊で理解できます。