バズらせて「日本を孤立」させる…知っておきたいディープフェイクなどが使われるSNS情報戦の脅威

「米国の同盟国である日本の失敗を強調し周辺国に害を与えると思わせる」

あるSNSの虚偽情報の投稿と拡散に関する報告書に記されていた言葉です。

みなさんがする“いいね”や“リポスト”、もしかすると誰かの策略にのせられてしまっているかもしれません。

ディープフェイクが情報戦で使われる

「ITを利用し媒介して人々を欺くもの、これも虚偽情報です」

情報セキュリティの専門機関「情報処理推進機構（IPA）」の小山明美グループリーダーは、情報セキュリティ白書2024で「虚偽を含む情報拡散の脅威と対策の動向」を注目のトピックとして特集しました。

インターネット上の虚偽情報の生成や拡散で、社会の混乱や分断、対立が、近年深刻さを増していると指摘します。

「選挙における世論誘導や中傷扇動、新型コロナ対策に関する混乱、あるいは陰謀論の広がり。ロシア・ウクライナやイスラエル・ハマス間の武力衝突といったようなものでも、サイバー情報戦、認知戦と脅威が大きな問題となっています」

代表的な例として、男性が子どもたちを瓦礫から救出する画像があります。

写っている人物たちの繋がり方などが不自然で、ディープフェイクで作られた画像だと言われているということです。

こうした画像の生成は「戦争の被害に遭うかわいそうな子どもたち」という印象を与え、相手の非道さを強調することが目的といわれます。

都合よく抽出した事実や虚偽を並べ、仮定に過ぎないストーリーを、正しいストーリーに見せる。こうした意図に基づくストーリーは「ナラティブ」と呼びます。

「情報戦」とは、虚偽情報を拡散することによって、相手の社会混乱や政府機関の信用失墜を目的とする、情報操作型のサイバー攻撃によって行われるということです。

では、どうやって戦略的に虚偽情報を拡散させるのか、小山さんは、人間の感情や心理がうまく利用されていると指摘します。

“怒り”など強い感情が利用される

欧州評議会による情報の拡散の分類です。

「誤情報」は事実の誤認や、過失によって誤解を招く文脈で発信される、故意や悪意のない情報です。

「偽情報」は社会や公益への攻撃を目的とした害意のある情報です。偽の情報だけではなく、誤った文脈や操作された内容で拡散される真の情報も含まれます。

「悪意ある情報」はリークやハラスメントなど害意を持って広められる真の情報で、機密情報や個人情報の暴露を含むこともあります。

偽情報は自分の利益や主張を優位にしようと拡散され、その際には情報の正確性が歪められたり、より強い感情を想起させる人の認知バイアスが加味されると小山さんは言います。

「偽情報は強い怒りを喚起することが多いと研究でも指摘されています。真偽の判断に関わらず、投稿のシェアやリポストを促進するという研究の示唆もあります。感情を操作されたユーザーに加えて、インフルエンサー、国家や組織の支持者が拡散➡増幅➡拡散を行っているというようなことが懸念されています」

小山さんは誰かの意図に沿ったものであると報告があったという例をひとつ紹介してくれました。
去年8月の東京電力福島第一原発のALPS処理水の海洋放出です。

この時、処理水をめぐって「魚の大量死は処理水の影響」「日本政府は汚染水を処理せず原発からそのまま放出」などといった多くの虚偽情報が発信されたということです。

これらは処理水放出に批判的な立場から発せられたため、処理水を「核汚染水」と呼ぶ印象操作も行われました。

中には、海水面の変色など、中国の動画サイトで拡散されていたトピックが日本語に訳されてSNS上で拡散されていた例もみられたということです。

「これらの偽情報はアメリカの同盟国である日本の失敗を強調し、周辺国に害を与えると思わせることによって、日本を世界から孤立させるとともに、日本国内の世論の分断を扇動したものとみられるという報告もあります」

小山さんは、情報操作に対しては、複数の情報源に当たるといった冷静な対応が望ましいといいます。

「例えば震災等の特異な状況ですと、使命感ですとか、正義感といったような強い感情で悪意がなくても不確実な情報を拡散してしまうというユーザーも多くいるようです。ITサービスの利用者側にも不確実な情報の拡散に対しては意識の向上が求められます」

7月に発刊された情報セキュリティ白書2024では注目のトピックとして「虚偽情報とAIのセキュリティ」を取り上げています。
情報処理推進機構のWEBサイトから無料でダウンロードすることができます。

取材協力：情報処理推進機構（IPA）セキュリティセンター　企画部　調査グループ　　グループリーダー　小山明美（こやま・あけみ）
（TBS NEWSDIG オリジナル配信番組：知るテック　より）

このニュースに関するつぶやき