日本は“無防備”か　選挙で「ディープフェイク」はこう使われる

　2024年は、米国大統領選挙をはじめ、世界中で重要な選挙が相次ぐ「選挙イヤー」となっている。そこで注目されているのは、生成AI技術の進展による選挙戦術の変化だ。

【画像】「もし史上最弱の大統領が再選したら」という合成動画で、怪しく笑うバイデン大統領

　その中でも、ディープフェイク技術は従来の選挙キャンペーンの枠を超え、新たな情報戦略の中心に位置付けられている。一方、ディープフェイクは偽情報や誤情報の拡散、さらには選挙妨害を目的とした悪用も懸念されている。

●ディープフェイクは「民主化」している

　ディープフェイクは以前から存在したが、ここ数年の生成AI技術の進化がディープフェイクをさらに加速させている。画像生成においては、Midjourneyのような直感的なインターフェースを持つツールが普及し、専門知識がなくても数分で政治家の肖像画を作り出せる。

　音声合成の分野では、米ElevenLabsのようなAI企業が、わずか数分の音声サンプルから個人の声を再現する技術を実用化している。動画生成に関しても、英国のSynthesia、イスラエルのD-ID、HourOneといった企業が、テキストから自然な動画を生成するサービスを提供している。

　これらのツールの多くは、無料もしくは低コストで利用可能なことから、結果として、ディープフェイク作成のハードルは大きく下がり、誰もが容易に政治家の偽の発言を作り出せる環境が整ってしまったのである。

●選挙への影響事例

　2024年は、ディープフェイクによる具体的な影響が各国で報告されている。代表的なものをいくつか紹介する。

米国：バイデン大統領の偽のロボコール

　2024年1月、米ニューハンプシャー州の民主党予備選において、有権者のもとにジョー・バイデン大統領になりすました声で投票を棄権するよう呼び掛ける電話がかかる例が多発した。FBIの調査によると、この音声はAIを使って合成された自動音声通話、いわゆる「ロボコール」であり、選挙妨害を目的としていたことが判明した。

　それ以前にも、バイデン大統領が2024年大統領選への出馬を正式に表明した直後の2023年4月、米共和党全国委員会が「What if the weakest president we've ever had were re-elected（史上最弱の大統領が再選したら）」と投げかける合成動画を公開し、物議を醸した。

　AIが生成したこの動画は、バイデン大統領再選後の米国の未来を暗示するもので、バイデン大統領の勝利を報じるニュース映像に続いて、台湾での爆撃や、サンフランシスコの街路を埋めつくす武装警察、国境に押し寄せる移民、廃墟と化したウォール街といった終末的な世界を映し出している。現在もYouTubeで視聴可能だ。ただし、「改変または合成されたコンテンツ」という注釈がついている。

●パキスタン：収監中の元首相が復活

　2024年2月に行われたパキスタン総選挙では、汚職の罪で2023年8月から収監中のイムラン・カーン元首相の声をAIで再現した「勝利演説」が拡散され、支持者を熱狂させた。

　カーン氏の政党であるパキスタン正義運動（PTI）は、獄中からのメモを基にAIで音声を合成し、過去の写真や映像と組み合わせて演説ビデオを作成。これをソーシャルメディアで公開し、140万回以上の視聴を記録した。

　このような技術の活用は、選挙活動に制約がある状況下でも政治家が有権者に訴える手段として評価する声がある一方で、収監中の政治家の発言をAIで再現することの倫理的問題や、選挙の公平性への影響も指摘されている。

●インド：AIによる多言語演説

　2024年4月から5月にかけて総選挙が行われたインドでは、与党インド人民党（BJP）がモディ首相のヒンディー語の演説をAIを使ってタミル語やテルグ語など8つの地方言語に翻訳し、それぞれの言語で音声合成した演説をネット配信した。

　BJPはヒンディー語話者の多い北部や中部地方を主な地盤としており、弱点である南部地方の言葉で訴えることで支持基盤を広げる狙いがあったとされる。

　これに対し、野党側は、この手法が地域の文化や言語の多様性を無視していると批判。また、AIによる翻訳の正確性や、合成音声がモディ首相本人の声と誤認される可能性についても懸念を表明している。

●ディープフェイク対策の現状と課題

　ディープフェイクに対する技術的な対策としては、いくつかスタートアップがディープフェイクの検出ソリューションを提供している。イタリアのミラノを拠点とするSensity AIは、ディープフェイク動画や音声の検出を得意としている。

　ディープフェイク動画の検出では、顔の動きの不自然さや瞬きの頻度、微表情の欠如、顔の境界部分や肌のテクスチャの一貫していない箇所などを分析し、ディープフェイク特有のパターンを検出している。

　また、カナダのトロントを拠点とするResemble AIは、偽音声の検出ソリューションを提供している。同社は音声のピッチ、フォルマント（声道の共鳴周波数）、テンポなどの特徴量を抽出し、自然音声と比較したり、自然音声では存在しないような高周波成分や特定の周波数成分の不自然な強調を検出する「スペクトル分析」などによって偽音声の検出を実現している。

　ただし、現時点ではディープフェイク生成技術が急速に進化しており、検出技術が追い付いていないのが現状である。そのため、ディープフェイクの生成を防ぐだけでなく、コンテンツの信頼性を担保する技術が今後ますます重要となるだろう。

●法的アプローチの必要性

　生成AIの進化に伴い、ディープフェイクコンテンツの品質は向上し、制作コストは大幅に下がっている。現時点ではディープフェイクによる誤情報の拡散を完全に防ぐ手段は存在せず、技術的対策と法的対策の両面からアプローチする必要がある。

　ただし、ディープフェイクが氾濫する米国でもディープフェイクに対する法的規制はまだ発展途上にある。しかし、2024年9月に米カリフォルニア州知事がディープフェイク画像や音声・動画コンテンツを用いた選挙広告を規制する法案に署名したことで、一歩前進と思われた。

　しかし、署名からわずか1日後に、表現の自由の侵害だとして阻止する訴訟を起こされてしまった。連邦地裁はこの訴えを認め、新法の執行を一時的に中止する仮差し止め命令を出した。そのため、抑止策は決め手を欠いたまま、大統領選に突入することになる。

●日本の状況

　2023年11月に生成AIで作成された岸田文雄前首相のディープフェイク動画がSNS上で拡散され問題となったが、選挙に関連したものではなかった。それだけに法的な枠組みについては、カリフォルニア州のように選挙を想定した特段の検討はされていないのが実情である。

　一方、技術的な対策については世界共通である。実際、マイクロソフトは「ディープフェイクから日本の選挙を守るためのマイクロソフトの取り組み」として、英国やフランスの選挙で既に活用実績のあるコンテンツ整合性ツールを提供するとしている。

　これは、ディープフェイクに対抗するためのツールであり、メディアの作成元やAIが作成したものかどうかなどを確認することができる。

　一般の有権者としても、こうしたツールの活用などを通じて偽情報をいたずらに拡散することがないようにAIリテラシーを高めていくことが求められる。

●著者プロフィール：城田真琴（しろた まこと）　

　野村総合研究所DX基盤事業本部プリンシパル・アナリスト。2001年に入社後、IT基盤技術戦略室長などを経て現職。

　専門はエマージングテクノロジー、及びエマージングITビジネスの動向調査。『決定版Web3』『ChatGPT資本主義』『デス・バイ・アマゾン』など著書多数。