英語で読む日経サイエンス

SCIENTIFIC AMERICAN October 2018

Clicks, Lies and Videotape

巧妙化するフェイク動画

By Brooke Borel B. ボレル
English 日本語 日本語
This past April a new video of Barack Obama surfaced on the Internet. Against a backdrop that included both the American and presidential flags, it looked like many of his previous speeches. Wearing a crisp white shirt and dark suit, Obama faced the camera and punctuated his words with outstretched hands: “President Trump is a total and complete dipshit.”  去る4月,オバマ前大統領の新たな動画がネット上に出現した。背景にはアメリカ国旗と大統領旗の両方が映っており,以前の多くのスピーチと同じに見える。パリパリの白いシャツとダークスーツをまとい,カメラに向かって大きな手振りを交えてはっきりとこう語った。「トランプ大統領はまったくもって完全なクソったれだ」。
Without cracking a smile, he continued. “Now, you see, I would never say these things. At least not in a public address. But someone else would.” The view shifted to a split screen, revealing the actor Jordan Peele. Obama hadn’t said anything—it was a real recording of an Obama address blended with Peele’s impersonation. Side by side, the message continued as Peele, like a digital ventriloquist, put more words in the former president’s mouth.  そして,にこりともせずにこう続けた。「さて皆さん,私がこんな発言を決してしないのはご存じだろう。少なくとも公式には言わない。だが,誰か別の人が話している可能性はある」。そこで画面が2つに分かれ,片方に俳優のジョーダン・ピールが現れた。タネを明かすと,オバマは何も話してはおらず,オバマのスピーチの実録映像とピールによる物まね映像を合成した動画だったのだ。ピールがデジタル腹話術師のように前大統領の口に言葉を吹き込んでいる様子を2分割画面で示しながら,話はなおも続いた。
In this era of fake news, the video was a public service announcement produced by BuzzFeed News, showcasing an application of new artificial-intelligence (AI) technology that could do for audio and video what Photoshop has done for digital images: allow for the manipulation of reality.  フェイクニュースの時代にあってオンラインメディアのバズフィードが制作したこの動画は,画像編集ソフトのフォトショップがデジタル画像に加えてきた改変と同じことを,新たな人工知能(AI)技術が動画と音声に対して行えることを如実に示す注意喚起の広報だった。
The results are still fairly unsophisticated. Listen and watch closely, and Obama’s voice is a bit nasally. For brief flashes, his mouth—fused with Peele’s—floats off-center. But this rapidly evolving technology, which is intended for Hollywood film editors and video game makers, has the imaginations of some national security experts and media scholars running dark. The next generation of these tools may make it possible to create convincing fakes from scratch—not by warping existing footage, as in the Obama address, but by orchestrating scenarios that never happened at all.  出来はまだかなり粗い。よく見聞きすれば,オバマの声が少し鼻にかかっているのがわかる。口はピールの口をオバマにはめ込んだもので,瞬間的に位置が少しずれる。だが,もともとハリウッドの映画製作者とビデオゲーム作者を念頭に開発されたこの技術は急速に進化しており,一部の国家安全保障の専門家とメディア学者は不吉なものを感じている。これらのツールの次世代版によって,本物と見分けがつかないフェイクをゼロから合成できるようになるかもしれない。オバマのスピーチのような既存の映像に手を加えるのではなく,実際には一切起こらなかったことを演出・捏造できるようになるかもしれないのだ。
The consequences for public knowledge and discourse could be profound. Imagine, for instance, the impact on the upcoming midterm elections if a fake video smeared a politician during a tight race. Or attacked a CEO the night before a public offering. A group could stage a terrorist attack and fool news outlets into covering it, sparking knee-jerk retribution. Even if a viral video is later proved to be fake, will the public still believe it was true anyway? And perhaps most troubling: What if the very idea of pervasive fakes makes us stop believing much of what we see and hear—including the stuff that is real?  それが一般市民の知識と論議にもたらす影響は甚大だろう。例えば次の国政選挙で激戦区の候補を中傷するフェイク動画が出回ったらどうか。あるいは株式公開の前夜に社長を攻撃するフェイク動画が出たらどうなるか。テロ攻撃のフェイク動画を流して報道機関にリポートさせ,市民に復讐をたきつけることもできるだろう。
 拡散力の強い動画がフェイクだったと後に証明されても,一般市民はその動画が真実だと信じ続けるのではないか? そしておそらく最も厄介な問題は,フェイクが浸透すると,事実を含め見聞きしたすべてを信じられなくなるという深刻な事態に陥ることだ。