ディープフェイク

くわしく

「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた言葉です。NISTの資料は、ディープフェイクを合成された映像・音声や写真のようにリアルな画像として説明し、偽情報（だます意図のある誤った情報）を広める手段になりうるとしています。

AI事業者ガイドラインの別添によると、ディープフェイクの悪用は各国で相次いでおり、偽画像や偽動画による情報操作や世論工作が起きています。例として、「国防総省付近で爆発が起きた」とする生成AIで作られた偽画像がSNSで拡散し、偽アカウントも情報を広げたことで、平均株価が一時100ドル以上下落した事例が紹介されています。各国の選挙で候補者のディープフェイクが生成・拡散された事例も挙げられています。

NISTは、生成AIによって他人になりすますための詐欺的なコンテンツも作りやすくなると指摘しています。EUのAI法は、ディープフェイクについて明確にラベル表示することを求めており、欧州委員会は透明性に関するルールが2026年8月に適用されるとしています。

クリエイターにとってのポイント

• 出口（公開・納品）：実在の人物の顔や声を使った生成物は、肖像権・パブリシティ権・名誉毀損などの論点と関わります。どの論点が関わるかは、人物・内容・使い方によって変わります。
• NISTは、偽情報や誤情報が、正しい証拠や情報に対する社会の信頼そのものを損ないうると指摘しています。
• EUのAI法は、ディープフェイクの明確なラベル表示を求めています。EU域内向けの発信では、表示ルールが関わる場合があります（欧州委員会の説明）。
• AI事業者ガイドラインは、精巧な生成物が誤解を助長しうることに留意し、生成物であることを示す透かしなどの工夫を例として挙げています。

具体的な場面の例

• 動画クリエイターが、パロディ動画のために有名人の声に似せた音声をAIで作る場面。本人の許諾の有無、視聴者が本物と誤解しうる見せ方になっていないか、AI生成である旨の表示をどうするかが、確認ポイントになります。