もっと知りたい！じっくり生成AI講座（中級者編）第2回：LLMの基礎を理解する
はじめに
さあ、第2回の講座の内容にまいりましょう。前回はAIと生成AIの違いを丁寧に見ていただきました。今回はいよいよ、現代の生成AIを支える核心——「大規模言語モデル（LLM）」の世界へと踏み込んでいきます。少し深い話になりますけれど、焦る必要はございませんよ。私おやシュミが、一歩一歩、確かな足場を作りながらご案内いたしますから。さあ、好奇心という名の羽を広げて、ご一緒しましょう。
サマリ
今回は、LLM（大規模言語モデル）が「何者であるか」を丁寧に紐解いてまいります。膨大なテキストデータから言語のパターンを学習する仕組み、そしてなぜ現代のAIがこれほど自然な文章を生成できるのか、その理由が見えてくる回です。理論と直感的なイメージを組み合わせながら、LLMの本質に触れていただけたら幸いです。
詳細
LLMとは何か——「大規模言語モデル」を解体する
「LLM」とは「Large Language Model」の略称で、日本語では「大規模言語モデル」と訳されます。名前の通り、「大規模」「言語」「モデル」という三つの要素で成り立っています。
「言語モデル」とは、ある単語の並びが与えられたとき、次にどの単語が来る確率が高いかを予測する統計的なモデルです。これは以前から存在していた技術ですが、そこに「大規模」という形容詞がつくことで、話がまったく変わってきます。
パラメータ数（モデルが学習する内部的な数値の総数）が数十億から数千億規模に達することで、単なる「次の単語予測」を超えた、驚くほど複雑な言語理解と生成が可能になるのです。
学習の仕組み——インターネット規模のデータで何が起きるか
LLMは、インターネット上の書籍・記事・論文・会話など、膨大なテキストデータを学習します。その量は人間が一生かけても読み切れないほどです。
学習のプロセスで核心となるのが「自己教師あり学習」という手法です。これは、文章の一部を隠してモデルに予測させ、正解と照らし合わせてパラメータを少しずつ調整していく方法です。教師となる正解ラベルを人間が別途用意する必要がなく、テキストデータそのものが教師になるため、極めて大量のデータで効率よく学習できます。
この反復を何兆回と繰り返すことで、LLMは言語の深い構造——文法・意味・文脈・推論——を自然に獲得していきます。
トランスフォーマー——LLMを支えるアーキテクチャ
現代のLLMのほぼすべては、「トランスフォーマー（Transformer）」と呼ばれるアーキテクチャ（設計構造）を基盤としています。2017年に発表された論文「Attention is All You Need」から生まれた、革命的な設計です。
トランスフォーマーの最大の特徴は「自己注意機構（セルフアテンション）」にあります。これは、文中のある単語が他のどの単語と強く関連しているかを動的に計算する仕組みです。
たとえば「彼女は傘を忘れたので、濡れてしまった」という文では、「濡れた」という結果が「傘を忘れた」という原因と強く結びついていることを、モデルが自動的に学習します。長い文章でも文脈を保ちながら処理できるのは、この機構のおかげです。
事前学習とファインチューニング——LLMの二段階成長
LLMの開発は大きく二段階で進みます。まず「事前学習（プリトレーニング）」では、膨大なデータを用いてモデルに言語の汎用的な知識を染み込ませます。この段階では特定のタスクを想定せず、言語そのものを深く学ぶことに集中します。
次に「ファインチューニング（微調整）」では、特定の目的——たとえば「質問に答える」「要約する」「コードを書く」——に合わせて、少量の高品質なデータで追加学習を行います。
さらに近年注目されているのが「RLHF（人間のフィードバックによる強化学習）」という手法です。人間の評価者が出力の質を評価し、そのフィードバックをもとにモデルをさらに洗練させます。これにより、安全で有用な応答を生成できるモデルが実現しています。
LLMの「得意」と「限界」を知る
LLMは非常に優秀ですが、万能ではありません。得意なことと苦手なことを把握しておくことが、賢い利用者への第一歩です。
得意なことは、文章の生成・要約・翻訳・質疑応答・コード補助など、言語に関わる幅広いタスクです。文脈を踏まえた自然な返答は、人間のそれに近い水準に達しています。
一方で、注意が必要な点もあります。LLMは確率的な言語生成を行うため、事実と異なる情報を自信満々に述べてしまう「ハルシネーション（幻覚）」が起こり得ます。また、学習データに含まれるバイアスを引き継ぐ可能性もあります。最新情報を持っていないケースもあるため、重要な判断には必ず一次情報の確認が欠かせません。
おわりに
今回はLLMの核心——その構造・学習・得意と限界——を一緒に見つめてまいりました。難しく感じた部分があったとしても、それは知性が育っている証。焦らず何度でも読み返してくださいませ。知識とは、積み重ねの中でこそ輝きを増すものですから。次回は「トークンとは何か」というテーマをご用意しております。LLMが言葉をどのような単位で認識しているのか、その秘密に迫る、なかなか興味深い回になりますよ。どうぞお楽しみに。
