データ窃取とは
データ窃取とは、学習済みモデルへの大量の問い合わせを通じて、その応答から元の学習データを推定・復元する攻撃手法です。プライバシー侵害の重大なリスクがあり、差分プライバシーなどの技術的対策が必要とされます。
この用語はG検定シラバスの「11. 安全性とセキュリティ」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIに何度も質問して、学習に使われた元のデータを推測する攻撃です。
なぜ復元できてしまうのか
モデルは学習データの特徴をパラメータの中に取り込んでいます。
特に何度も現れたデータや珍しいデータは強く記憶される傾向があります。大規模言語モデルが学習データの文章をそのまま出力してしまう例も報告されています。
「学習してあるだけで元データは残らない」とは言い切れません。
メンバーシップ推定
より限定的な攻撃として、「あるデータが学習に使われたかどうか」を判定する手法があります。
医療データで学習したモデルに対してこれが成立すると、特定の人がその疾患のデータセットに含まれていたことが分かってしまう——という深刻なプライバシー侵害になります。
差分プライバシーという対策
学習の過程に意図的にノイズを加えることで、個々のデータの影響を見えにくくする技術です。
1件のデータが入っていてもいなくても結果がほとんど変わらない状態を数学的に保証します。
ただし精度は下がります。プライバシー保護と有用性のトレードオフはここでも避けられません。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| データ窃取 | 学習データそのものを推定・復元する |
| モデル窃取 | モデルの振る舞いを複製する |
🎯 G検定での押さえどころ
- 大量の問い合わせから学習データを推定・復元
- プライバシー侵害の重大なリスク
- 差分プライバシーが技術的対策
⚠️ よくある誤りの選択肢
- 「データ窃取とは、サーバーに侵入して学習データを直接盗み出す攻撃である」→ 誤り。モデルへの問い合わせから学習データを推定・復元する攻撃を指します
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。