米国務省やマスク氏も採用　AIで「偽情報対策を革新」したイスラエル企業

　6000社のスタートアップが存在するといわれるイスラエル。AIを駆使し、偽情報やフェイクニュースを素早く発見する技術を擁するのが、同国で2018年に設立されたCyabra（サイアブラ）社だ。SNSを常に監視し、分析能力には定評がある。

【その他の画像】

　2020年には米国務省が、同社のディープフェイク検知サービスの利用を始めた。2022年には、イーロン・マスク氏が当時の米Twitter社を買収する際にサイアブラを雇っている。同社による調査の結果、Twitterの利用者数に占める偽アカウントの割合が想定より少ないという結論となり、マスク氏の買収判断に影響を与えた。

　今回はサイアブラでCRO （Chief Revenue Officer）を務めるエマニエル・ヘイマン（Emmanuel Haymann）氏にインタビューした。情報操作がより簡単になった現代で、防衛に強いイスラエルの強みを生かし、SNS上のフェイクニュースのソース、そして拡散状況を、政府や企業にリアルタイムに提供。即座に対策を打つことによって、企業のブランディングを維持する。その実力とは？

●イーロン・マスク氏がTwitter買収時に利用　理由は？

　サイアブラは企業に、SaaSプラットフォームのサービスを提供している。何かが言及され、偽アカウントを識別するたびにアラートを出し、その警告の詳細を見ていく仕組みだ。Facebook、TikTok、X（旧Twitter）、Instagram、YouTube、Telegram、VK、Redditなどの主要なSNSを監視している。

　公開されている会話を分析し、何が本物で何が偽物か、何が重要で何がただのノイズか、危険なデマや陰謀論的なコンテンツかなどを多角的に分析する。

　これらの情報はソーシャルメディア上で時には真実よりも非常に速く拡散する。どんな会社でも政府機関でも、個人でも、誰かに危害を加えられてしまう。サイアブラはその源を特定してフェイク情報が広まる前に、迅速に対応する。　

　投稿時間や投稿数、アカウントの作成日、所在地などの条件から、悪意のある情報を拡散するボットアカウントを特定するのだ。「短期間に投稿が多い」などといった行動パターンを分析し、公式アカウントが投稿した写真とも照合する。投稿内容にAIが使われていないかを確認し、偽情報の可能性があるかどうかを判断するという。　

　「サイアブラがチェックするのは、あなたの言動だけでなく、行動なのです。2025年の世界経済フォーラムによると、今後2年間の『短期的なリスク』として『誤報と偽情報』が2年連続でトップに挙げられました」

　2位の異常気象も重要なリスクだ。しかし、この偽情報・フェイクニュースはより大きなリスクを伴う。米ガートナーが発表した調査によると、企業は偽情報と戦うために2028年までに5000億ドル以上を投資するという。

　2022年4月にイーロン・マスク氏は26億ドルでTwitter株を取得し、最大株主になった。実は、彼がTwitterを買収するまでのプロセスには、さまざまな課題があったという。

　「マスク氏がTwitter買収時に（経営状況・財務状況などを調査する）デューデリジェンス時のプロセスの一環として、フェイクアカウント数を調査するために、サイアブラを選びました。マスク氏はTwitterには少なくとも数十パーセントの偽アカウントがあると判断していたといわれています。そのため当初はTwitterを買収したくないと考えていましたが、実は数パーセントしかないとの情報もあり、偽アカウントを把握した上で交渉をし続けたのです。そして最終的には買収することになりました」

　2016年の1回目のトランプ大統領時には、CIA（中央情報局）長官だったマイク・ポンペオ氏が、サイアブラの民主主義への貢献を称賛。2024年1月には、サイアブラの役員に加わった。ポンペオ氏も最大の問題が偽情報にあることを理解しているのだ。今日では、他国は米国に武器では勝てないことを理解している。そこで米国の敵は、米国の若者に対して「米国は信用できない」と信じ込ませるのだという。

　このことは米国にとって大きな脅威となり、もしもソーシャルメディア上で米国の国外からの干渉があれば、米国民は、米国の制度そのものを信用しなくなる。これは国にとって大きな脅威であり、情報操作との戦いであることを、CIAにいたポンペオ氏はよく理解しているのだ。

　2024年は、米国大統領選挙の年だった。サイアブラは実に19個の選挙に関わっている。選挙ではフェイク情報も発信されていた。そして、その発信元が偽アカウントの可能性もある。

　「全世界の政府機関、安全保障当局は、今何が起こっているのかを理解したいと考えています。問題が何かを知ることからこそ、その問題を解決できるのです」

●サイアブラのAIとは？

　サイアブラの情報分析を支えるAIは、ある行動パターンに基づいている。例えば2023年10月7日にイスラエルで、ハマスによるテロが起きた。その際に、イスラエルを批判する多くの記事も出たという。その後にさまざまな調査をした結果、多くのアカウントは10月7日の1年以上前に作られたものであり、その多くのアカウントは、一度もFacebookに投稿していないことも発覚した。

　さらにそのアカウントは2分おきに30種類の言語によって投稿をしていたという。すなわち、眠ることなくトイレにも行かず、多言語で発信していたのだ。それは、人間が発信したものではないと判断できた。1日でFacebookに100万人の新しい友達ができた場合、常識的に考えてそのアカウントは疑わしいといえる。このように500以上の異なる行動パターンを持ち、同時にAIによってアカウントの行動を監視している。本物のアカウントかどうかなどアカウントの真正性を評価し、偽アカウントかどうかも見抜くのだ。

　政府機関はサイアブラのツールを以下4つの用途で使用している。

　（1）米国選挙で利用されたように、人々の動向に大きな影響を与えるために作られた偽アカウントでの選挙妨害対策、（2）政府反対デモなどの治安維持対策、（3）生活費が高すぎるといった政府への不満・批判の悪評対策、（4）詐欺・テロなど犯罪対策だ。

　2023年5月に米国防総省（ペンタゴン）が爆発した写真がX（旧Twitter）で急速に拡散した。S＆P500の株価指数は30ポイント下落。時価総額も5000億ドル以上、変動した。その後、ブルームバーグ研究所になりすました偽アカウントにより、AIで生成され拡散されたものだったことが判明。偽のプロファイルが削除された時には既に、株価が暴落していた。最終的に、どこかの国が攻撃したのではなく、個人が行ったものと特定されたという。

　その影響は大きかった。もしも個人ではなく、集団でこのような暴挙を実行したら……。それを考えると、対策の必要性が浮き彫りになった出来事だった。

　ZARA、スターバックス、マクドナルド、コカ・コーラ、ネスレ、ディズニーなどでは、さまざまな理由でボイコットや非売運動が知らないうちにネット上で展開されている。

　ボイコットを呼びかける人々を分析するために、その言説の真偽や、誰がそのシナリオを推進しているのかなどを調べるという。ほかにも、ブランド維持や企業の危機管理対策としても利用されている。企業のブランディングは長い年月をかけて作り上げられるものだ。しかし、落ちるときには簡単に落とされてしまう現実がある。

　これからは企業が、自社のブランド、商品、サービスが消費者にどう思われ、SNS上で何を言われているのかを知ることが重要だ。この危機管理思考は、経営層が意識し対策すべきことである。

　米JPモルガン・チェースは、性的虐待などの罪で起訴された富豪のジェフリー・エプスタイン氏（2019年死亡）のスキャンダルを拡散され、ブランディングを含め、大きな損害を被った。これは、CNBCの記事を個別に共有する63のボットによりキャンペーンされていたことで発見した。どんな企業でもこのような事態は起こりうるのだ。

　米イーライリリー社での事例もある。同社になりすました偽アカウントが「インスリン製剤が無料になる」という偽情報をツイート。約1時間で株価は4％下落し、SNS上で拡散された。これを機に、旧Twitterはわずか数日で、一定の基準を満たしているアカウントに付与されるTwitter Blueの提供を一時的に停止した。この判断には、イーライリリー社のなりすましが大きく影響したといわれている。エマニエル氏は「企業ブランドの評判を脅かす偽情報を拡散するアカウントを特定し、事前に防ぐことが重要だ」と語る。

●サイアブラが見る日本市場

　エマニエル氏は、日本市場が非常に重要な市場だと見ている。2024年冬、サイアブラの関係者は、日本政府の関係者が80人ほど参加するイベントのために来日した。多くの政府機関、自治体が興味を持っているようだ。

　「ソーシャルメディアが大きな力を持つ米国選挙での事例を説明しました。選挙期間中にどのように偽アカウントを特定し、トランプ氏やハリス氏に対する信用を得るためのストーリーを押し進めたか。そしてどんな影響を与えたかなどを紹介したのです。もちろん、AIにはAIで対抗することも伝えました」　

　実際に2024年は「選挙×SNS」を考える年だった。SNSは東京都知事選挙や兵庫県知事選挙で注目を集めた。衆議員議員選挙では、ネット戦略に注力した政党が、議席を増やした。だからこそ、SNS上での「AI利用×高分析能力」によって常に監視し、偽情報を素早く発見することは重要なのだ。

　問題はますます深刻化している。現代では、多くの人々が情報を理解するために、伝統的なメディアからのニュースだけでなく、ソーシャルメディアの情報も重要な供給源となっている。ソーシャルメディアしか見ない若者は多い。同時に、AIツールによって文章、音声、画像、動画を瞬時に誰でも制作できてしまう。しかし、その信ぴょう性は保証されない。

　偽アカウントは誰なのか。何を標的にしているのか。連携した偽アカウントがあるのか。これらの脅威を特定するために、サイアブラのようなソリューションは今後、必要になってくるだろう。

●リンカーン「インターネットで読んだものを信じてはいけない」

　「Don't believe everything you read on the internet」（インターネットで読んだものを信じてはいけない）

　この言葉は、米国の大統領エイブラハム・リンカーン（Abraham Lincoln）が言ったものだとジョーク的に広まっている。実際にはリンカーンが生きた19世紀にはインターネットは存在しなかった。だから、この発言は完全にうそである。このフレーズは「インターネット上の情報をうのみにしてはいけない」という注意を、ユーモラスに伝えているのだ。

　ネット上では誤った情報や捏造（ねつぞう）された発言がたびたび共有される。そのため「リンカーンがこんなことを言った」と信じ込んでしまうようでは、情報の信ぴょう性を確認することの大切さを見失ってしまうという教訓的な意味合いがある。つまり「情報をうのみにせず、必ず出典や背景を確認しよう」という意味だ。

　一方で誤った情報、フェイクニュースが、本当のニュースより早く伝わることがある。そしてフェイクニュースは、簡単に作れてしまう。これは企業にとっても脅威だ。

　「問題が起こってからでは遅すぎる――。このことを意識しながら対策を練ってほしいのです。一度落ちてしまった信頼を回復することは難しいからです。フェイク情報対策は、企業のマーケティングではマストとなりつつあります。悪意ある生成AIの使われ方を検出する技術に注目してもらえればと思います」

（平野貴之、ベアーレ・コンサルティングCEO）