⑤ ディープラーニングの応用例 ／ 27. 自然言語処理
大規模言語モデル (LLM)とは
大規模言語モデル（LLM）とは、数十億〜数千億規模のパラメータを持つ巨大なニューラルネットワークで学習された言語モデルの総称です。GPT・PaLM・LLaMAなどが代表例です。
この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤（全133語）にまとまっています。
一言でいうと
とてつもなく多くのパラメータを持ち、幅広い言語タスクをこなせるモデルの総称です。
汎用性という特徴
従来はタスクごとに専用のモデルを学習させる必要がありました。
LLMは事前学習だけで幅広い知識と言語能力を獲得しており、指示を与えるだけで多様なタスクに対応できます。少数の例を示すだけで学習するfew-shot learningも可能です。
課題
- 事実と異なる出力：もっともらしい誤りを生成する（ハルシネーション）
- 学習データの偏り：データに含まれる偏見をそのまま反映しうる
- コストと環境負荷：学習に膨大な計算資源が必要
これらはAI倫理・ガバナンスの文脈でも押さえる論点です。
創発的能力
規模を大きくしていくと、ある時点から急に新しい能力が現れることが報告されています（創発）。推論や計算がその例です。
小さいモデルではまったくできなかったことが突然できるようになるため、性能の予測が難しいという特徴があります。
🎯 G検定での押さえどころ
- 数十億〜数千億のパラメータ規模
- 事前学習だけで幅広いタスクに対応できる
- 事実誤り・偏り・コストという課題がある
⚠️ よくある誤りの選択肢
- 「LLMは事実と異なる内容を生成することはない」→ 誤り。ハルシネーションが起こりえます
- 「LLMはタスクごとに一から学習し直す必要がある」→ 誤り。事前学習の転用が基本です
📘 もっと深く学ぶ
- 数式レベルまで踏み込んだ解説 → 医療AIナビ「GPT-n」（E資格向け）
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。