G検定対策
⑤ ディープラーニングの応用例 / 27. 自然言語処理

GPT-nとは

GPT-nとは、Transformerのデコーダのみを用いた自己回帰型の大規模言語モデル群です。次単語予測による事前学習により、生成・要約・翻訳・対話など幅広いタスクに対応します。

この用語はG検定シラバスの「27. 自然言語処理」に含まれます。 章全体の用語は用語解説⑤(全133語)にまとまっています。

⚠️ シラバス改訂による変更
この用語は、G検定シラバス2024 第1.4版(2026年5月11日)でキーワードから削除されました。生成AIの範囲そのものが外れたわけではなく、大規模言語モデル (LLM)PaLMRLHF などは引き続き挙がっています。個別のサービス名から技術の名前へ軸が移った形です。背景を理解するうえでは有用なので、参考として残しています。

一言でいうと

Transformerのデコーダを使い、次の単語を予測し続けることで文章を生成するモデルです。

次の単語を当て続ける

学習は非常に単純で、「次に来る単語を予測する」だけです。正解ラベルは元の文章そのものなので、大量のテキストをそのまま学習に使えます。

推論時は予測した単語を入力に加えて次々と生成を続けます。これが自己回帰型と呼ばれる理由です。未来を見ずに前だけを見るため、BERTと違い単方向になります。

スケーリング則

GPTシリーズが示した重要な知見がスケーリング則です。モデルの規模・データ量・計算量を増やすほど性能が予測可能な形で向上し続けるという経験則を指します。

この発見が大規模化競争の根拠となり、大規模言語モデルの時代を決定づけました。対話向けに調整したものがChatGPTです。

プロンプトという使い方

GPTはファインチューニングしなくても、指示文(プロンプト)を工夫するだけで多くのタスクをこなせます。

これはFew-shotZero-shotの能力にもとづくもので、「学習させる」から「指示する」へという大きな変化をもたらしました。

混同しやすい用語との違い

用語ポイント
GPT-nデコーダ。単方向。生成が得意
BERTエンコーダ。双方向。理解が得意

🎯 G検定での押さえどころ

  • Transformerのデコーダを使う
  • 次単語予測で事前学習する(自己回帰型)
  • スケーリング則が特徴

⚠️ よくある誤りの選択肢

  • 「GPTはTransformerのエンコーダを用いる」→ 誤り。デコーダです
  • 「GPTは双方向に文脈を読む」→ 誤り。単方向(自己回帰型)です

📘 もっと深く学ぶ

この用語を覚えたら チェックは章ページと「試験内容解説」TOPの進捗にも反映されます

関連する用語

スポンサーリンク

ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。

\ 公式LINE・登録無料 /

友だち追加で4大特典をプレゼント中🎁

E資格ミニ模試(全15問)/覚えておくべき数式チェック49本
医療現場の生成AI安全活用ガイド/医療AI用語事典100

📱 友だち追加して特典を受け取る

▶ 特典のくわしい内容を見る