ＢＥＲＴによる自然言語処理入門

Ｔｒａｎｓｆｏｒｍｅｒｓを使った実践プログラミング

オーム社
ストックマーク株式会社　近江崇宏　金田健太郎　森長誠　江間見亜利　

• 価格: 2,970円（本体2,700円＋税）
• 発行年月: 2021年06月
• 判型: Ｂ５
• ISBN: 9784274227264

内容情報

[BOOKデータベースより]

ＢＥＲＴを知る・動かす・使いこなす。さまざまなサービスに応用可能なＢＥＲＴでの言語タスク解決法を、現役ＮＬＰ技術者が解説。データセットの処理→ファインチューニング→性能評価までの一連の流れを体験し、ＢＥＲＴを使いこなす力を手に入れよう。

はじめに
ニューラルネットワークを用いた自然言語処理
ＢＥＲＴ
Ｈｕｇｇｉｎｇｆａｃｅ　Ｔｒａｎｓｆｏｒｍｅｒｓ
文章の穴埋め
文章分類
マルチラベル文章分類
固有表現抽出
文章校正
文章ベクトルを用いたデータの可視化と類似文章検索
付録Ａ　ニューラルネットワークの基礎
付録Ｂ　Ｃｏｌａｂｏｒａｔｏｒｙの使い方

[日販商品データベースより]

自然言語処理の標準モデル、BERTを使いこなせるようになる！
BERTはGoogleが2018年末に発表した自然言語処理モデルです。「文脈」を考慮した処理が特徴的であり、言語理解を評価する11個のタスクについて最高精度を達成し、今や標準的なモデルとしての地位を確立しています。

本書は、自然言語処理の近年における発展に大きな役割を果たし、かつ応用上も有用であるBERTの入門書です。前半で自然言語処理や機械学習について概説したのち、BERTによって実際にさまざまなタスクを解いていきます。具体的には、文章分類・固有表現抽出・文章校正・類似文章検索・データの可視化を扱います。データセットの処理から、ファインチューニング（BERTを特定の言語タスクに特化させるための学習）、性能の評価までの一連の流れを体験することで、BERTを自分で使えるようになることを目標とします。

なお、BERTで処理を行うためのライブラリとして、深層学習の言語モデルを扱ううえでよく使用されるTransformersを、学習や性能評価を効率的に行うためのライブラリとしてPyTorch Lightningを用います。本書ではTransformersやPyTorch Lightningを用いたことがない読者を想定して、その使い方を一から体系的かつ丁寧に解説します。

▼本書の環境
言語：Python
深層学習フレームワーク：PyTorch
ライブラリ：Transformers, PyTorch Lightning
計算環境：Google Colaboratory

▼本書の特徴
・BERTで実際にさまざまなタスクを解くことができます。
・使用するデータセットを日本語で統一しています。
・ライブラリの使い方を一から体系的に説明します。