⑧ AI倫理と社会的課題 ／ 11. 安全性とセキュリティ
モデル汚染とは
モデル汚染とは、学習済みモデル本体や更新プロセスに不正な改変を施し、特定の入力時に誤作動を起こさせる攻撃です。モデル改ざんとも呼ばれ、供給網全体のセキュリティ確保と完全性検証が重要となります。
この用語はG検定シラバスの「11. 安全性とセキュリティ」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIモデルそのものを書き換えて、特定の場面で誤動作させる攻撃です。
データ汚染との違い
| 攻撃 | 狙う対象 |
|---|---|
| データ汚染 | 学習データに悪意あるデータを混ぜる |
| モデル汚染 | モデル本体・更新プロセスを直接改変する |
結果として起こることは似ていますが、介入する場所が異なります。この区別はG検定対策として重要です。
供給網が狙われる
現在のAI開発では公開されている学習済みモデルを取り込んで使うことが一般的です。
そのモデルが配布の過程で改変されていれば、取り込んだ側は気づけません。
外部のライブラリや更新の仕組みも同様の経路になり得ます。セキュリティ・バイ・デザインの観点から、取り込むもの全体を見る必要があります。
完全性の検証
対策の中心は「受け取ったものが本物かどうか」を確認することです。
- 配布元の署名やハッシュ値を検証する
- 信頼できる提供元に限定する
- トレーサビリティを確保し、来歴を記録する
- 更新の適用前に検証環境で確認する
モデルもソフトウェアの一部として管理する発想が求められます。
混同しやすい用語との違い
| 用語 | ポイント |
|---|---|
| モデル汚染 | モデル本体・更新プロセスを改変する |
| データ汚染 | 学習データに悪意あるデータを混入させる |
🎯 G検定での押さえどころ
- モデル本体や更新プロセスを不正に改変
- モデル改ざんとも呼ばれる
- 供給網のセキュリティと完全性検証が重要
⚠️ よくある誤りの選択肢
- 「モデル汚染とは学習データに不正なデータを混入させる攻撃である」→ 誤り。それはデータ汚染です
この用語を覚えたら
チェックは章ページと「試験内容解説」TOPの進捗にも反映されます
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。