ディープフェイクとは？AI生成コンテンツとの違い・見分ける際の注意点を解説

本人が話していない言葉を話しているように見える動画や、有名人の声をまねた音声が本物らしく流通することがあります。こうしたコンテンツを説明するときに使われる代表的な言葉が「ディープフェイク」です。

30秒で説明

ディープフェイクは、深層学習などのAI技術を使い、実在する人物の顔、表情、声、動きなどを合成・変換して、本物らしく見聞きできる画像・動画・音声を作る技術や、その生成物を指します。

映画制作、翻訳、アクセシビリティ、創作など正当な利用もあります。一方で、本人の同意なく発言を捏造する、詐欺の電話に声を使う、性的な画像を合成するなどの深刻な悪用があります。AIで作った画像すべてがディープフェイクというわけではありません。

3分で詳しく

AI生成コンテンツとの違い

AI生成コンテンツは、文章、画像、音声、動画などAIで作られた内容全般を含む広い言葉です。ディープフェイクはその中でも、実在する人や実在の出来事を本物らしく再現・改変し、真偽を誤認させ得る文脈で使われることが多い言葉です。

例	一般的な整理
存在しない風景をAIで描く	AI生成画像だが、通常はディープフェイクとは呼ばない
俳優の顔を別人へ置き換える映像	ディープフェイク技術の例
本人の声に似せて架空の発言を作る	音声ディープフェイクになり得る
写真の明るさだけをAIで調整する	AI処理だが、通常はディープフェイクとは呼ばない

境界は文脈によって揺れます。技術名だけでなく、「誰を表しているか」「本人の同意があるか」「本物と誤解させる表示か」を見る必要があります。

正当な利用もある

映画やゲームでの映像表現
俳優の許諾を得た吹き替え・口の動きの調整
本人の声を保存し、病気などで発声が難しくなったときに使う支援
風刺・パロディであることを明示した作品
教育や研究のための合成データ

技術そのものと、同意のないなりすましや詐欺への悪用は分けて考えます。

どのようなリスクがある？

経営者や家族を装う音声・ビデオ通話による送金要求
選挙や災害時の偽情報
本人の同意がない性的な合成画像
有名人を装った投資・商品広告
証拠のように見える偽映像の拡散
本物の映像まで「AIで作られた」と否定される混乱

低品質なAI生成物が大量に流通するAIスロップとは重なる場合がありますが、AIスロップは量や品質、情報環境への影響に重点があり、実在人物のなりすましを必須としません。

見た目だけで断定しない

指の形、まばたき、口と声のずれなどは手掛かりになる場合がありますが、生成技術の改善や圧縮の影響で、見た目だけの判定は難しくなっています。反対に、不自然に見える本物の動画を誤ってディープフェイクと決めつける危険もあります。

確認するときは、次を組み合わせます。

最初に公表した主体と元のURLを確認する
本人・所属組織・信頼できる報道の発表を探す
動画の一部分だけでなく前後を見る
投稿日と、主張される出来事の日付を比べる
コンテンツクレデンシャルなど来歴情報があれば確認する
真偽不明の段階では拡散を保留する

コミュニティノートやプラットフォームのコンテンツモデレーションも補助になりますが、表示がないことは本物の証明ではありません。

表示ルールはどうなっている？

EUのAI Act第50条の透明性義務は、2026年8月2日から適用されます。AIシステムの提供者には、一定の合成コンテンツを機械が読み取れる形式で識別できるようにする義務があります。一方、ディープフェイクを職業上利用する事業者などには、人工的に生成・操作されたことを開示する義務があります。個人的で非職業的な利用には、この利用者側の開示義務は適用されません。

芸術、創作、風刺など明らかに創作的な作品では、作品の鑑賞を妨げない適切な方法で開示する特別な扱いがあります。また、2026年8月2日より前に市場投入されたAIシステムの一部には、提供者側の義務について2026年12月2日までの経過措置があります。すべてのAI生成物へ同じ表示方法を世界共通で求める制度ではなく、対象者、用途、導入時期、例外を分けて確認する必要があります。

来歴情報は万能ではない

C2PAのContent Credentialsは、作成・編集に使ったツールなどの来歴情報を改ざん検知可能な形で付与する技術です。ただし、来歴情報が付いていないことは偽物の証明ではなく、付いていることも内容の正しさを自動的に保証しません。情報の出所を判断する材料の一つです。

よくある誤解

AI画像は全部ディープフェイク？

いいえ。存在しない人物や風景を作った画像はAI生成コンテンツですが、実在人物や実在の出来事を偽装していなければ、通常の説明では区別されます。

AI判定ツールなら100%見分けられる？

検出精度は素材や生成方法で変わり、誤判定もあります。一つのツールだけで断定しません。

本人に似ていれば、必ず違法？

同意、目的、表示、名誉・肖像・著作権・選挙や性的画像に関する法令などで判断が変わります。記事では個別の法的判断は行いません。

ひとことで振り返る

ディープフェイクは、本物らしい人物の映像・音声をAIで合成・改変する技術や生成物です。見た目だけで決めつけず、出所、本人の発表、来歴情報を組み合わせて確認します。

参考資料

Federal Trade Commission, Fighting back against harmful voice cloning, 公開日: 2024年4月8日, 対象: 音声クローンの悪用と確認時の注意, 確認日: 2026年10月10日
European Commission, Transparency obligations under Article 50 of the AI Act, 更新状況: 2026年10月確認, 対象: 適用日、提供者・利用者の義務、例外、経過措置, 確認日: 2026年10月10日
European Commission, Code of Practice on marking and labelling AI-generated content, 更新状況: 2026年版, 対象: 表示・ラベルの実務コード, 確認日: 2026年10月10日
C2PA, C2PA Technical Specification, 公開状況: Version 2.2, 対象: コンテンツ来歴情報, 確認日: 2026年10月10日