⑧ AI倫理と社会的課題 ／ 12. 悪用
ディープフェイクとは
ディープフェイクとは、生成AIを用いて、実在する人物の顔や声を別人のものと入れ替えた精巧な偽動画・偽音声のことです。なりすまし詐欺・名誉毀損・世論操作などへの悪用が懸念されています。
この用語はG検定シラバスの「12. 悪用」に含まれます。 章全体の用語は用語解説⑧（全45語）にまとまっています。
一言でいうと
AIで作られた、本人が話しているように見える精巧な偽の動画や音声です。
報じられている重大事例
- 送金詐欺：企業経営者の音声をAIで模倣し、部下に送金を指示して多額の被害が発生した事例
- 世論操作：政治家や著名人の偽動画がSNS上で拡散され、発言の捏造や印象操作が問題化
- 人権侵害：一般の人の顔を無断で性的な動画に合成する被害
3つの類型で押さえておくと出題に対応しやすくなります。
なぜ止めにくいのか
生成技術は年々精巧になり、見た目で真偽を判断することが難しくなっています。
さらに検出技術を開発しても、それを回避する生成技術が現れます。攻撃側が有利な構図が続いています。
加えて拡散はSNSで一瞬です。訂正が届く頃には既に広く共有された後、という事態が起こります。
対策の方向
- 来歴の証明：正規のコンテンツに電子署名や来歴情報を付与する
- 表示義務：AI生成であることを明示させる（EU AI規則の透明性義務など）
- リテラシー教育：受け手が疑う習慣を持つ
「偽物を見抜く」より「本物を証明する」方向へ重心が移りつつあります。
🎯 G検定での押さえどころ
- 生成AIで顔や声を入れ替えた精巧な偽コンテンツ
- なりすまし詐欺・名誉毀損・世論操作への悪用
- 検出より来歴の証明へ対策の重心が移りつつある
⚠️ よくある誤りの選択肢
- 「ディープフェイクは画像や動画が対象で、音声には適用されない」→ 誤り。音声の模倣にも用いられ、送金詐欺の事例が報じられています
関連する用語
ご利用にあたって 本ページの内容は、JDLAが公開しているG検定シラバス2024や公式テキストなど、一般に公開されている情報をもとに独自に整理・解説したものです。実際の試験の出題内容を示すものではなく、また合格を保証するものでもありません。制度・法令・試験要項は変更されることがあるため、最新の情報は必ずJDLA公式サイトでご確認ください。