私たちの「無知」「何かを＜知らない＞こと」は社会的、文化的に作り出されている。そこで大きな役割を果たしているのがAIとSNSだ。民主主義を危うくしかねない「無知」の状況は、なぜ、どのように作られているのか。この状況に抗して民主主義を守るにはどうすべきか。東北大学DEI推進センターの鶴田想人特任助教による論考。
情報過多の時代が招く怒りと分断今日、私たちはかつてない量の情報に囲まれている。スマートフォン一つで世界中の出来事にアクセスでき、あらゆる知識が検索可能である——かに見える。しかし私たちが実際に目にする情報は、検索エンジンやSNS、そしてそれらの背後で作動するアルゴリズムやAIによって選別されている。
情報過多の時代に、私たちがそれでもある程度必要な情報にたどり着けるのは、この選別のおかげである。しかし今日、その弊害も目立ってきている。SNSはあらゆる人々に情報発信を可能にして情報を「民主化」したが、同時に怒りや分断を増幅させ、私たちを民主主義から遠いところに連れて行こうとしているようにも思える。
以下では、筆者の専門とする「無知学」の視点から今日の情報環境を考察する。無知学とは、私たちの「知らないこと」がいかに社会的・文化的に作り出され、維持されているのかを研究する学問分野である。
無知学はもともと、アメリカのタバコ業界や石油業界が、がんの増加や気候変動に対する責任を否定するために、科学的知見に疑義を投げかけ、因果関係をはぐらかすことで規制を逃れてきた手法を研究する中で生まれてきた。無知は、多くの場合、単なる知識の欠如ではなく、特定の利害と結びつきながら、意図的あるいは構造的に生み出されている。
|
|
|
|
近年新たに注目されているのが、AIやSNSを通じたフェイクニュースや陰謀論の生成と拡散である。デジタル画像分析の専門家ハニー・ファリードは、AIの機能を「予測」と「生成」の二つに分けて、それらが「無知」を生み出し増幅する仕組みを論じている （注1）。
予測AIとは、私たちが「見たい」ものを予測する技術である。それはネット上での私たちの行動や属性をもとに、私たちの検索画面やタイムラインに何を表示し、何を表示しないかを決めている。
とはいえそのアルゴリズムは、あくまで私たちのエンゲージメント（滞在時間やクリック数）を最大化し、プラットフォーム企業が広告収益を上げるために設計されている。そのため、情報が正しいかどうかよりも、ユーザーのアテンション（注意・関心）を得られるかどうかが決め手となる。
その結果、SNS上では特に感情を刺激するようなコンテンツが拡散されやすくなる。フェイクニュースや陰謀論は、そのようなコンテンツの代表格だ。
また、私たちの「フォロー」や「いいね！」によって情報が個別最適化されるため、エコーチェンバー（同じ意見のみが反響する空間）やフィルターバブル（異論が見えにくくなる状態）といった情報的孤立も生じやすい。私たちはタイムラインで自分と似た意見にばかり囲まれ、異なる視点に触れにくくなる。一度間違った情報を信じると、間違いに気づくことが難しくなるのだ。
|
|
|
|
一方、生成AIとは既存のデータから新たなコンテンツ（音声、画像、動画など）を生み出す技術である。特に問題となるのが、本物そっくりに作られた「ディープフェイク」だ。これは新たな創造の可能性をひらく一方で、フェイクポルノやなりすまし詐欺などの犯罪や、世論を操作するための偽情報キャンペーンなどに利用されやすい。
さらにディープフェイクが普及すると、音声や画像や動画などが持つ証拠としての力が弱まることも懸念されている。不都合な証拠を「フェイクだ」と否認しやすくなり、嘘をつくことが得となる「嘘つきの配当」と呼ばれる状況が生まれかねない。
さらにディープフェイクをもとに新たなコンテンツが生成され続けると、私たちのタイムラインは本物そっくりの虚構で埋め尽くされることになり、何が真実かの見分けがつかなくなっていく。
AI・SNSが私たちを操作し、現実世界を変えていくそうした先にあるのは、ポストトゥルースと呼ばれる「真実以後」の世界である。
象徴的だったのが、2016年のアメリカ大統領選だ。「ローマ法王がトランプ氏を支持」などのフェイクニュースがSNS上で拡散され、選挙結果を左右したと言われる。しかもその一部は、広告収入を目当てに国外から流されたものであった。
|
|
|
|
さらにデータ分析会社によるSNSを利用したマイクロターゲティング（個々のユーザーにカスタマイズした広告）も行われていたという。SNSとフェイクニュースは、いまや選挙の主要なツールとなったのだ。
日本でも2024年以降、SNSが選挙の主戦場になったとされる（注2） 。SNS上で注目を集めることが、実際の得票につながるようになったのだ。それは同時に、注目を集めるために手段を選ばない候補者の方が、選挙戦で有利になることも意味していた。ここ数年、選挙のたびにデマやヘイト、誹謗中傷などがSNS上で吹き荒れたのは、そのことと無関係ではないだろう。
ポストトゥルースとは、客観的事実よりも感情や個人的信念によって世論が作られる状況だと言われ、フェイクに騙される「情弱」な個人の問題にされがちである。しかしそれは個々人の意識の問題である以上に、私たちの情報環境に起因する構造的な問題だ。
上述したようなAIの機能やSNSのアルゴリズムが、私たちの注意・関心を操作し、「世論」を作り上げる。そうして作られた「世論」が、選挙を通じて私たちの住む現実世界を変えていくのだ。
20世紀の全体主義の成立過程を研究した哲学者ハンナ・アーレントは、こうした社会の行く末を予言するかのような一節を記している。
「全体主義的統治の理想的な臣民は筋金入りのナチでも筋金入りの共産主義者でもなく、事実と虚構の区別（つまり経験の現実性）をも真と偽の区別（つまり思考の基準）をも、もはや見失ってしまった人々なのだ」（注3）
ナチ・ドイツやソ連のような「全体主義」が再び到来するのかはわからない。しかし、真偽の区別を見失うことは、民主主義を失い、自由を失うことと隣り合わせなのだということは、私たちが歴史から学ぶべき教訓であるだろう。
「メディアリテラシー」を身に付ければ解決するわけではないこうした状況への対策として、メディアリテラシーの重要性がしばしば語られる。メディアの特性を理解し、情報の真偽を見分ける力を養うことはたしかに重要だ。しかし、リテラシーの強調には落とし穴もある。
まず、メディアリテラシーにおいて重視される「批判的思考」は、今日の情報環境においてはかえって逆効果となる場合があることが指摘されている（注4） 。メディアを疑い、「正しい」情報を得ようとしてネット検索を重ねると、その「疑い」を裏づけるような情報ばかりが提示され、結果として陰謀論的な考えに傾きやすくなるという。
さらに、リテラシーの強調は、フェイクニュースに騙されるのは個人のリテラシー不足ゆえであり、そのような情報を流す人々や、それを構造的に拡散しているプラットフォーム企業には責任がないかのような印象を与えかねないことにも注意が必要だ。
これは無知学の創始者ロバート・プロクターが批判してきた、問題を個人の責任へと転嫁する「個人化」の構図とも重なる（注5） 。たとえばアメリカのタバコ業界は、喫煙と肺がんの因果関係が否定できなくなると、がんの増加はタバコのせいではなく、喫煙者の「個人的選択」の結果だと主張してきたという。
石油業界もまた、気候変動を個人の意識や行動の問題へと還元しようとしてきたことが知られている。実は、さまざまな商品のCO2排出量を可視化することで「環境にやさしい」消費を呼びかける「カーボン・フットプリント」の概念を広く普及させたのは、大手石油会社であった。
気候訴訟の専門家であるベンジャミン・フランタは、これを「偽の解決策」の推進による業界の責任逃れだと指摘する（注6） 。もちろん個々人の意識や行動は大事だが、石油業界が石油を売り続けるかぎり、問題の根本は解決されないままなのだ。
メディアリテラシーも自衛の手段として重要であることは論を俟たない。しかしそれだけでは、今日のポストトゥルース状況を解決するには不十分である。そのためにはプラットフォーム企業の責任を明確化し、適切な規制を設けることが不可欠であると思われる。
民主主義と自由を守るために必要なことはアメリカのテック業界は1996年以来、通信品位法第230条によって保護されてきた。これは掲示板やSNSなどにユーザーが投稿したコンテンツに対して、プラットフォーム企業が原則として法的責任を負わないとする規定である。
近年、改正や廃止も検討されているが、テック企業やSNS企業の多くは訴訟リスクの増大や「言論の自由」などを理由に、全面廃止や大幅な改正に反対している。
たしかに規制には慎重さが必要だ。中国やロシアでは、ネット規制が政権への批判を抑える言論統制にまで及んでいると指摘されている。政府が規制対象を恣意的に決められるようになると、規制は容易に検閲や権力強化の手段へと転化しうる。
しかし上述のように、今日のSNS上での「自由な言論」は、かえって民主主義の基盤を揺るがしつつあるようにも思える。予測AIと生成AIが組み合わされたアルゴリズムは、事実よりももっともらしい虚構によって人々を動かし、「世論」を形成する。それは虚構を作り出し動員する力のある人々に権力が集中しやすいことも意味している。だとすると、私たちの民主主義と自由を守るためにこそ、一定の規制枠組みは必要なのだ。
実際、ここ数年で各国での規制は進みつつある。EUではデジタルサービス法やAI法による規制が導入され、子どものSNS利用を禁止または制限する国も増えている。日本でもAIに関するガイドラインや法整備、また「情プラ法」などによるSNS上での誹謗中傷などへの対策は進みつつあるが、アメリカと同様、強い拘束力のある規制には慎重だ。
しかしAIやSNSは、いまや私たちの知や社会のあり方を形づくる社会インフラの一部である以上、それらのガバナンスは民主主義そのものの行方を左右すると言っても過言ではない。
重要なのは、AIやSNSの設計・運用を私企業や国家の裁量に委ねないこと、そしてそれらを公共財（あるいは共有財）として社会の中に位置づけ直すことだろう。その自由と力が、まだ私たちの手に残されているうちに。
（注1） Hany Farid, “AI-Fueled Ignorance, Confusion, and Profit,” in Ignorance Unmasked: Essays in the New Science of Agnotology, ed. by Robert N. Proctor and Londa Schiebinger, Stanford University Press, 2025.
（注2） 山口真一『炎上で世論はつくられる』ちくま新書、2026年。
（注3） ハンナ・アーレント『全体主義の起源3 全体主義』大久保和郎訳、みすず書房、2017年（新版）、345頁。
（注4） 耳塚佳代「汚染とメディアリテラシー」、藤代裕之編『フェイクニュースの生態系』青弓社、2021年所収。
（注5） Robert N. Proctor, “Agnotology, Thirty Years in the Making,” in Ignorance Unmasked.
（注6） Benjamin Franta, “How the Most Important Fact of Global Warming Has Been Obscured,” in Ignorance Unmasked.
＜執筆者略歴＞
鶴田 想人（つるた・そうと）
東北大学DEI推進センター特任助教ほか。専門は科学史・科学論。
1989年生まれ。東京大学大学院総合文化研究科博士過程満期退学、修士（学術）。大阪大学社会技術共創研究センター特任研究員などを経て、2025年より現職。
共編著書に「ジェンダード・イノベーションの可能性」、「無知学への招待」（共に明石書店）、共訳書にシービンガー「奴隷たちの秘密の薬」（工作舎）など。
【調査情報デジタル】
1958年創刊のTBSの情報誌「調査情報」を引き継いだデジタル版のWebマガジン（TBSメディア総研発行）。テレビ、メディア等に関する多彩な論考と情報を掲載。原則、毎週土曜日午前中に2本程度の記事を公開・配信している。
0件
コラム
