News
Studio Ousiaのメンバーが中心となって執筆した『大規模言語モデル入門』が発売されます
News
2023-07-28
Chief Scientistの山田が監修し、Studio Ousiaのメンバーが中心となって執筆した『大規模言語モデル入門』が技術評論社より7月29日に発売されます。
word2vecからChatGPTまでの理論の解説と、transformers等を使い手を動かしながら実践的な日本語NLP開発を学べることを目指した内容となっております。
技術評論社の『大規模言語モデル入門』のページ
Amazon.co.jpの商品ページ
また、書内で言及のある下記のプログラムについては、Colabで動かすことのできるコードを公開しております。併せてご参照下さい。
https://github.com/ghmagazine/llm-book
- GPT・BERT・T5のゼロショット推論
- BPE
- J-GLUE(BERT、RoBERTa、LUKE、DeBERTa v2)
- NER(BERT)
- 要約生成(T5)
- 文埋め込み(BERT+SimCSE)
- 質問応答(ChatGPT)