日経サイエンス  2019年1月号

特集:だますAI vs 見抜くAI

フェイクを見破る

出村政彬(編集部)

人工知能(AI)のおかげで、本物そっくりのフェイク動画が簡単に作れる時代になりつつある。コンピューターグラフィック(CG)などを使ったリアルな合成動画はこれまでも存在していたが、高度な動画制作の技能が必要だった。AIを使って画像データを処理すれば、こうした専門技能が無くても動画が作れてしまう。一体、どんな仕組みなのだろうか。編集部で実際にフェイク動画を作成し、その仕組みを詳しく見てみたい。


フェイク動画の作成は、日本経済新聞社の研究組織「日経イノベーション・ラボ」の協力を得て行った。今回使ったのは、リアルタイムで自分の表情を別人の顔に移し替えることができる「Face2Face」と呼ぶ手法だ。トランプ大統領の会見動画を素材にして、筆者の顔の動きどおりにトランプ大統領の表情が変わる動画を作った。動画のデータをうまく圧縮し、異なる条件で再現するのがカギだ。さらに、動画に映っている人の顔を入れ替える「DeepFake」と呼ぶ手法も存在する。こちらも、AIを使ったデータの圧縮と再現をうまく活用した手法だ。


簡単な作成手法が増えると、今後精巧なフェイク動画が大量に出回るかもしれない。政治家の講演や監視カメラの動画が信用できなくなれば、社会にとって大きな脅威になる。


しかし、そんな時代に備えたフェイク動画の判別技術を国立情報学研究所(NII)が手掛けている。フェイク動画を作るのがAIなら、見抜くのもAIだ。NIIの山岸順一准教授らは、ディープラーニング(深層学習)を使い、本物とフェイクを見抜く技術を開発した。


開発した深層学習のニューラルネットワークは、98%の確率で正しくフェイクを見抜く。人の目では一見フェイクだと分からない動画だってお見通しだ。学習済みのニューラルネットワークを解析したところ、判別AIが何を手がかりにフェイクを見分けているのかも明らかになってきた。フェイク動画を作るAIの「弱点」を突いていたのだ。

サイト内の関連記事を読む

キーワードをGoogleで検索する

フェイク動画 人工知能 AI 山岸順一 馬場口登 DeepFake Face2Face