Chief Scientistの山田が監修し、Studio Ousiaのメンバーが中心となって執筆した『大規模言語モデル入門』が技術評論社より7月29日に発売されます。

word2vecからChatGPTまでの理論の解説と、transformers等を使い手を動かしながら実践的な日本語NLP開発を学べることを目指した内容となっております。

技術評論社の『大規模言語モデル入門』のページ

Amazon.co.jpの商品ページ

また、書内で言及のある下記のプログラムについては、Colabで動かすことのできるコードを公開しております。併せてご参照下さい。

https://github.com/ghmagazine/llm-book

• GPT・BERT・T5のゼロショット推論
• BPE
• J-GLUE（BERT、RoBERTa、LUKE、DeBERTa v2）
• NER（BERT）
• 要約生成（T5）
• 文埋め込み（BERT+SimCSE）
• 質問応答（ChatGPT）