ヨムナビ
大規模言語モデル入門

大規模言語モデル入門

山田 育矢, 鈴木 正敏, 山田 康輔, and 李 凌寒

累計読者数10
平均ハイライト数 15.7件/人
star総合評価 57/100
bookmarkリファレンス型
check_circle推定完走率 37%

この本について

モデルを触っていると、「なんとなく動くけど、本当は何が起きているのかよく分からないまま進めてしまう」みたいな不安ってありませんか。微調整ってどこからどこまでの話なのかとか、埋め込みって具体的に何を指しているのかとか、調べるほど霧が濃くなる感じが僕もずっとありました。 この本は、そのモヤモヤを専門用語の辞書的な説明ではなく、実際の現場でどう使われているのかという文脈でつないでくれるところが助かりました。たとえば、BERT・GPT・PaLMみたいなモデルの規模の違いが「ただの数字比べ」で終わらず、なぜコーパスやパラメータ数が増えると振る舞いが変わるのかを丁寧に追えるようになります。また、Unicode正規化やラベルの遷移制約みたいな、普段は後回しにしがちな地味な前処理が、実はモデル性能に直結している理由も腑に落ちました。さらに、flat NER と nested NER のどちらを選ぶかといったタスク設計の判断まで示されていて、自分のケースに引き寄せて考えやすかったです。 LLM を「黒箱のまま扱うのが不安な人」には特に刺さると思います。理論を知るためではなく、明日またコードを書くときに視界がクリアになる一冊でした。

analytics

読書インサイト

ハイライト密度

開始終了

多くの読者は7に最もインサイトを感じており、全ハイライトの23%が集中しています。

読書の順序

この本に似ている本

すべて見る arrow_right_alt
書籍情報(出版社紹介・目次)expand_more

出版社による紹介

ChatGPTに代表される大規模言語モデルが自然言語処理の幅広いタスクで高い性能を獲得し、大きな話題となっています。大規模言語モデルは、大規模なテキストデータで訓練された大規模なパラメータで構成されるニューラルネットワークです。2020年以降、自然言語処理や機械学習の知見をもとに、パラメータ数とテキストデータの拡大により、性能が飛躍的に向上しました。 Hugging Face社の"transformers"というPythonライブラリを利用することで、プログラミングの経験があれば、モデルの操作やデータからの学習がかんたんにできます。モデルを訓練するための日本語もしくは日本語を含む多言語のデータセットも充実してきており、すぐに業務に使える実用的なモデルを作ることが可能な時代がやってきました。 本書は、大規模言語モデルの理論と実装の両方を解説した入門書です。大規模言語モデルの技術や自然言語処理の課題について理解し、実際の問題に対処できるようになることを目指しています。以下のような構成によって、理論とプログラミングの双方の側面から、大規模言語モデルに関する情報を提供します。 第1章はじめに 第2章 Transformer 第3章大規模言語モデルの基礎 第4章大規模言語モデルの進展 第5章大規模言語モデルのファインチューニング 第6章固有表現認識 第7章要約生成 第8章文埋め込み 第9章質問応答システム
library_books似た本をもっと見るmap書籍マップで探すroute読書パスガイドauto_awesomeAI診断で次の1冊を探す

読んだ内容を、もう忘れない。

BookNotion Zなら、Kindleのハイライトを自動で保存・整理。Notionにエクスポートして、いつでも振り返れます。

無料ではじめる

クレジットカード不要