人間は生来，感情的な刺激に反応しやすく，もともと持っていた信念あるいは偏見を強めるものなら誤情報でも共有する。ところがソーシャルプラットフォームの設計者たちは，人のつながりは寛容をもたらし，憎しみを緩和すると信じて疑わなかった。人間の本質が技術によって変わりはしないことを見通せなかったのだ。
社会の緊張を高めることを意図する悪質行為者は，標的とするユーザーを怒らせ興奮させるようなコンテンツを作り，見た人がその情報を伝達するように仕向ける。彼らの狙いは，ユーザーが自らの社会資本を使ってそうしたコンテンツのメッセージを強化し，信頼性を与えるようにさせることだ。こうしたコンテンツの大半は人々を何らかの方向に説得するのではなく，混乱させ，打ちのめし，選挙やジャーナリズムといった民主主義の仕組みへの信頼を揺るがすために作られている。コンテンツを操作し増幅するツールが安価に手に入るようになったため，ユーザーを本人も知らないうちに偽情報を拡散する兵器として利用することが，今後はもっと容易になるだろう。
著者
Claire Wardle
非営利組織ファースト・ドラフトの米国事務所代表。研究やプロジェクト運営，誤情報の解明と対処に当たる人材育成に取り組む。ハーバード大学ショーレンスタイン報道・政治・公共政策センターの研究フェローを経て現職。ペンシルベニア大学でコミュニケーション学のPh. D.を取得。
関連記事
「巧妙化するフェイク動画」，B. ボレル，日経サイエンス 2019年1月号。
原題名
A New World Disorder（SCIENTIFIC AMERICAN September 2019）