作ってわかる大規模言語モデルの仕組み

Ｐｙｔｏｒｃｈ入門講座付き

日経ＢＰ 日経ＢＰマーケティング
井上顧基　下垣内隆太　高島直也　澤風吹　

• 価格: 3,630円（本体3,300円＋税）
• 発行年月: 2026年03月
• 判型: Ｂ５
• ISBN: 9784296205257

内容情報

[日販商品データベースより]

ChatGPTが使う大規模言語モデル（LLM）「GPT」を一から作りながら、LLMの基本から実装まで体形的に学べます！

【本書の特徴】
●Transformerの基礎からGPTモデルまで一から作りながら学べる
●「人間の意図に沿った応答」を生成するアラインメント（SFT、DPO）の仕組みを実装で学べる
●最新の推論強化モデルまでカバー

【LLMの仕組みを3段階で理解】
●図解や平易な解説で直感的に分かる
●実際に動くPyTorchコードで理解
●理論的な背景は数式で補足

Transformerモデルを作った後、GPT-2相当のLLMを実装。さらにGPT-2だけでは実現できなかった「人間の意図に沿った応答」を生成するための技術（SFT、DPO）を、実際のコードで体験します。多数のGPUを使った大規模学習をするための分散学習についてもコードを示しながら解説します。

現代の大規模言語モデルがどのように作られているのか―、その本質をこの1冊で理解できます。