ディープフェイク精度向上で新問題 動画は本物でも「本人成りすまし」言い訳の材料に

43

2020年10月22日 08:00  AERA dot.

  • チェックする
  • つぶやく
  • 日記を書く

AERA dot.

写真BuzzFeedVideoが公開したオバマ前米大統領のディープフェイク動画。オバマ氏自身が語っているかのように見える/YouTubeから
BuzzFeedVideoが公開したオバマ前米大統領のディープフェイク動画。オバマ氏自身が語っているかのように見える/YouTubeから
 今や動画は真実を語るものではない――。本物と区別がつきにくいディープフェイクが、今後より判別できないほどのリアルさに近づいている。政治的な悪用も懸念されるため、米IT大手が本格的な対応に乗り出した。AERA 2020年10月26日号の記事を紹介。

【画像】ディープフェイク「画像1枚」で本物そっくり偽造も可能

*  *  *
 ディープフェイクの悪用を防ごうとする動きも米巨大IT企業で広がりつつある。

 SNSを運営するフェイスブックは、昨年9月にディープフェイク動画の識別コンテストを開催すると発表した。識別システムの研究への助成金と賞金として、計1千万ドル(約10億5千万円)以上を拠出する。マイクロソフトは今年9月、動画などのメディアが人為的に操作されたことを示す確率が表示されるツールの提供を開始した。

 両社とも、米大統領選を控え、候補者になりすまして対立候補を非難したり、候補者のイメージを悪化させるような発言をしたりする動画が拡散することを懸念して、こうした対応を急ピッチで進めたとみられる。

 ディープフェイクかどうかの識別は、ある程度のレベルまでなら個人でも可能だ。ディープフェイクは、元画像が目を見開いたものが多いため、まばたきをしていなかったり、歯に当たる光の加減が元の画像ごとに異なるために、歯が不自然な光り方をしたりするケースがあるという。ただ、こうした識別のための特徴は悪用する側も認識しているため、より識別しにくい精度の高い動画を作り出してくる可能性も高い。

 ディープフェイクの動画の精度向上は、さらに別の問題も生み出している。トランプ米大統領は16年の選挙戦の前に女性蔑視発言をした動画が流出したことがあったが、いったん動画の中の問題発言を認めた後で、当選後に側近らに対して「流出した動画はディープフェイク動画だった」などと述べたという。ディープフェイク動画が精度が高く本物と見間違うほどだからこそ、「自分自身が発言した動画ではない」という言い訳の材料に使うことができてしまうというわけだ。

■技術発展と規制両立を

 一方で、リベンジポルノをネットに流された人にとっては、「ディープフェイクで勝手に作られたポルノ動画を流されただけです」と言い切ることが可能になるかもしれない。この場合は、流出した被害者の精神的な負担を減らす一助になりそうだ。

 ディープフェイクをめぐる精度の向上とそれに伴う悪用の増加という図式は、サーバーを介さずにパソコン同士でファイルをやり取りする技術「P2P」が、映画などの著作物の違法ダウンロードを促すことが目的でなかったにもかかわらず、違法ダウンロードに悪用されるケースが相次いだ構図と似ている。

 一方でディープフェイクの場合は、ポルノ動画の流出といったパーソナルな問題から、政治家のなりすまし動画による政治的なプロパガンダへの悪用といった公共性の高い問題まで、より広範囲に悪影響が出る可能性があるという意味では、危険性は高いとも言える。表現の自由を担保する必要があるものの、問題のあるディープフェイク動画を法規制する仕組みを検討する必要がありそうだ。

 ただ、それでも、法規制が強化された結果、日本独自の技術として発展する可能性があったP2Pが衰退したことの二の舞いは避けねばならない。新しい技術の発展と悪用防止の両立は、常に不可欠だ。(ライター・平土令)

※AERA 2020年10月26日号より抜粋

このニュースに関するつぶやき

  • 中々やね(@_@)。
    • イイネ!2
    • コメント 0件
  • それを報じてるのが朝日という皮肉。朝日新聞でフェイクでないのはテレビ欄と天気予報だけ。 ほかはすべて嘘が含まれてると思って間違いないし。
    • イイネ!11
    • コメント 1件

つぶやき一覧へ(23件)

ランキングIT・インターネット

ニュース設定