⑧ AI倫理と社会的課題 ／ 11. 安全性とセキュリティ
モデル窃取とは
モデル窃取とは、API経由でモデルの入出力を繰り返し取得することで、元のモデルと同様の振る舞いをする代替モデルを構築する攻撃です。知的財産の侵害につながり、API制限や認証強化などの対策が求められます。
この用語はG検定シラバスの「11. 安全性とセキュリティ」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIに大量の質問をして、その答えから同じように動くコピーを作る攻撃です。
中身を見なくても複製できる
攻撃者はモデルの内部構造を知る必要がありません。入力と出力の対応だけを大量に集めれば、それを教師データとして別のモデルを学習させられます。
元のモデルを「先生」として使う形になり、知識蒸留と技術的には同じ仕組みです。正当な用途と攻撃が同じ技術の上に成り立っています。
何が失われるのか
- 開発投資：多額の費用をかけたモデルが安価に複製される
- 競争優位：営業秘密として守ってきた価値が失われる
- 安全対策：複製されたモデルで攻撃手法を研究されやすくなる
公開して守る特許と違い、秘密で守る資産は複製されると取り戻せません。
対策
- API制限：短時間の大量アクセスを制限する
- 認証強化：利用者を特定できるようにする
- 出力の粒度調整：詳細な確率値を返さない
- 電子透かし：複製を検出できるようにする
完全に防ぐことは困難なため、コストを引き上げて割に合わなくする発想が中心です。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| モデル窃取 | モデルの振る舞いを複製する |
| データ窃取 | 学習データを推定・復元する |
| モデル汚染 | モデルを改ざんして誤作動させる |
🎯 G検定での押さえどころ
- API経由の入出力から代替モデルを構築
- 知的財産の侵害につながる
- API制限・認証強化が対策
⚠️ よくある誤りの選択肢
- 「モデル窃取は、モデルの内部構造を入手しなければ実行できない」→ 誤り。入出力の対応を大量に集めるだけで代替モデルを作れます
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。