米大統領選挙 が直面する、新脅威「ディープフェイク」: WSJ が取り組む対応策は?

2020年のアメリカ大統領選挙を前に、誤った情報が拡散される脅威がますます高まってきている。これに対して策を講じる、ウォールストリート・ジャーナル(Thw Wall Street Journal)は、委員会を編成し、レポーターによる偽のコンテンツ対処の支援を開始した。

昨年9月に、ウォールストリート・ジャーナルは、同社のニュース編集室から21人のスタッフを同委員会の編成のために異動させた。各スタッフは連絡があればすぐにレポーターのもとに駆け付け、コンテンツが不正に作られたものであるかどうかという問い合わせに答える。ウォールストリート・ジャーナルは、委員会の委員が、コンテンツが偽物か本物かどうかを見分ける手助けをする基準を策定した。レポーターからの個別の問い合わせに対応したあと、委員はそこからわかった詳細を盛り込んでレポートを作成する。

これは、いわゆる「ディープフェイク(Deepfakes)」を根絶するための同社のプランの一環だ。ディープフェイクとは、人工知能によって不正に作られたコンテンツのことで、ロイター(Reuters)ワシントン・ポスト(The Washington Post)をはじめとするパブリッシャーにとって、2018年から懸念が増大している問題だ。

政治的緊張の高まりや技術のさらなる進歩、そして偽のコンテンツが拡散されるスピードなどが原因となって、これら偽物のコンテンツを見破る重要性が高まってきた。

「数年のうちに技術面で飛躍的な向上が見込まれると聞いており、それがちょうどアメリカ大統領選挙の時期と重なりそうだ」と、ウォールストリート・ジャーナルの研究開発部門のチーフであるフランシスコ・マルコーニ氏は言う。「泣きっ面にハチの状況になりそうだ。技術が急速に進歩している。重要な曲がり角の時期になる。先手を打ちたいと考えている」。

「ディープフェイク」という言葉

インターネットに脆弱な部分が多くあることを知ったときも同様であったが、マルコーニ氏がレディット(Reddit)上で「ディープフェイク」という言葉をはじめて目にしたのは、偶然にも、不正に作られたバラク・オバマ氏の動画に関する学術論文を2018年に読んだあとだった。これに、大学や研究施設がディープフェイクの増加に対応するための多くの活動を実施したことも重なり、研究開発チームがWSJメディアフォレンシクス委員会(WSJ Media Forensics committee)を編成し、基準倫理チームと研究開発チームで共同の取り組みを行うこととなった

ウォールストリート・ジャーナルはまた、学術関係者や研究者を招き、定期的に(偽コンテンツを)検出するための新技術についての講義を受けている。また、同社は、ニュース編集室向けのガイドも策定し、トレーニングセッションも開いている。マルコーニ氏の見積もりでは、120から150人ほどのWSJのジャーナリストが参加したということだ。同社は、大手の技術会社やスタートアップによって開発されているさまざまな検出ツールも注視している。いまのところ、先述のトレーニングは受講必須ではない。偽物の検出技術や検出ツールの性能は高まってきているが、情報源を徹底的に調べるような、通常のジャーナリスティックなプロセスは、いまも行われている。

この問題の規模を理解するのは難しいが、いくつかの示唆もある。サイバーセキュリティのスタートアップであるディープトレイス(DeepTrace)は、アダルトサイト上で8000本以上の偽のポルノ動画を検出した。数多くの新技術と同様に、AIにより不正に作り出される動画は、ポルノ産業に端を発する。2018年にGoogle検索で「ディープフェイク」を検索すると、2017年の1000倍ヒットした。AIに関するすべての学術論文の内容をマサチューセッツ工科大学が1月に調査したところによると、ニューラルネットワーク(これらの不正に生成される動画に利用される主要な方法)についてそれらの学術論文の25%が言及していた。これはほかの機械学習方法に言及している論文よりも数が多かった。

「情報収集プロセスの脅威」

さらに問題を複雑にしているのは、意図的に加工された動画の多くは、悪意のあるものではなく、面白おかしい効果あるいは諷刺的な効果を狙って作られている点にある。たとえば、フロリダ州セント・ピーターズバーグにあるザ・サルバドール・ダリ美術館は、AIを利用してダリを蘇らせ、来館者に挨拶させている。

「善意の場合もあるが、悪意の場合もあるのが常だ」と、マルコーニ氏は言う。「意図的に生成された、さまざまなメディアなどが急増したことで、ジャーナリズムや社会にとって好ましくない影響が及ぶのも目にしてきた。これは、私たちの情報収集プロセスにとって脅威であると判断した」。

マルコーニ氏は、ウォールストリートジャーナルの委員会がどれほどの数の偽の動画を見つけたかについて、あるいは偽の動画を見つけ出す意図でどのようなプロセスを構築したかについては、同社のニュース編集室の方針に基づき、詳細を語ることはできなかった。

次の戦場は、音声だ。マルコーニ氏は、ドナルド・トランプ大統領やバラク・オバマ元大統領が中国語を話している、不正に作られた音声を引き合いに出した。「これはまた違ったモンスターだ。これは恐ろしい。人間の耳では判別できない」。

検閲と言論の自由のバランス

AIの数多くの副産物に関する報道と同様に、新聞の見出しはこの現象を大げさに報じすぎているが、マルコーニ氏は、この現象はどちらかといえば、人工知能それ自体がより大きな原因だと指摘する。「少なくともディープフェイクの観点からすると、ディープフェイクをすべて見過ごすよりも、むしろそれらを注視しておくほうが良いだろう」と、彼は言う。

新聞には、アメリカ下院議員議長のナンシー・ペロシ氏の不正に作り出された動画に関する見出しが溢れていた。2019年5月に表面化したこの動画は、同氏が酔っ払っているように見えるようにする意図があった。編集上の責任を避けることには長けているFacebookであるが、この動画を削除しなかったことは批判された。この動画は250万ビューを記録し、Facebookは「対応策を間違えた」と認めている。現在、その動画はすでに消されているようだ。しかし皮肉なことに、マーク・ザッカーバーグ氏の偽動画がネット中に拡散されている

ディープフェイクが急増するにつれて、言論の自由を重視するか、間違った情報の拡散を制限するかのバランスをとることについてのFacebookやほかのプラットフォームの姿勢には、また圧力がかかるだろう。しかし、検閲をしないようにするのは、さらに困難な問題だと彼は言う。「機械がこのようなコンテンツを制作できる時代に、どのようにして検閲と言論の自由とのバランスを取るべきか」?

Lucinda Southern(原文 / 訳:Conyac