ＬＬＭのファインチューニングとＲＡＧ

チャットボット開発による実践

オーム社
新納浩幸　

• 価格: 2,640円（本体2,400円＋税）
• 発行年月: 2024年05月
• 判型: Ａ５
• ISBN: 9784274231957

内容情報

[BOOKデータベースより]

高性能なチャットボットを自力でつくろう。公開されているＬＬＭを使って精度の高い受け答えができる自前のチャットボットを構築します。ＲＡＧ（Ｒｅｔｒｉｅｖａｌ‐Ａｕｇｍｅｎｔｅｄ　Ｇｅｎｅｒａｔｉｏｎ）→検索拡張生成。チャットボットに外部情報の検索機能を追加するアプローチのこと。

第１章　大規模言語モデル
第２章　ファインチューニング：言語モデルの追加学習
第３章　Ｉｎｓｔｒｕｃｔｉｏｎ　Ｔｕｎｉｎｇ：指示に基づくファインチューニング
第４章　大規模言語モデルのファインチューニング
第５章　ＲＡＧ：検索を併用した文生成
第６章　ＣｈａｉｎｌｉｔによるＧＵＩのチャットボット

[日販商品データベースより]

公開LLMでファインチューニングとRAGを学ぼう！

この本は、公開されている大規模言語モデル（LLM：Large Language Model）を使った独自のチャットボットを構築することを目標に、LLM のファインチューニングと RAG (Retrieval Augmented Generation) の基礎とそのプログラミングについて学ぶものです。

ChatGPT の台頭により、高性能なチャットボットへの期待が急速に高まっています。しかしそのチャットボットの核となる LLM は基本的に言語モデルであるために、幻覚（誤った情報）を生成します。とくにローカルな情報や最新の情報は持っていないために、それらに関する質問に対して、正しい回答は期待できません。また ChatGPT のように LLM が外部のサーバにある場合、自社データを LLM に投げることには抵抗があると思います。

本書では、そういった課題を解決するために、公開 LLM をファインチューニングしたり、公開 LLM を使った RAG を構築することでよりニーズに沿ったチャットボットを構築します。その結果、構築したチャットボットは、自身が関わる分野について深く正確に回答してくれるようになります。