AIの「それっぽい嘘」に騙されてしまう人の特徴。AIの発展に比例して“求められるようになる力”とは

―［貧困東大生・布施川天馬］―
　ICT化の進む現代。

「AIに仕事が奪われる！」と危惧する声がある一方で、「AIのおかげで可能性が広がる」と期待に満ち溢れる人もいるようです。

　星川一真氏の『ゼロから始まるAI時代の学び革命』（ナレッジリンク出版）は「未来教育イノベーション大賞」グランプリを受賞するなど、注目を集めました。

◆AIが普及する一方で問題も

　私も、日常からAIを活用しています。例えば、記事のトピックや企画案のひな型を考えるとき、「○○の類語を教えてください」「○○について扱う記事を集めてください」のように依頼するなど、ざっくり情報を集めたいとき非常に便利。

　もちろん、気になったトピックがあっても鵜呑みにするわけではなく、しっかり裏を取ってから、実際の執筆作業に入ります。

　現状のAIは「それっぽいもの」を作るのは非常にうまいですが、あくまで「それっぽい」にとどまるからです。

　AIの最大の利点は「ゼロから0.1まで労力ゼロで達する」ことにあります。

　こいつの出すものをそのまま人前に出しても大した評価は得られません。ただ、「ゼロから脱する」ことはできます。

　往々にして「ゼロから自分で作り出す」よりも「もとからあるものを叩いて改良する」方が楽なもの。ものづくりのハードルが、一段下がりました。

　しかし、世の中にはAIの出力内容をそのまま人目に触れる場所へ出してしまう方もいらっしゃるようです。

　X（旧Twitter)では、毎年のように「学生がAIで作ったレポートをそのまま提出してきた」「存在しない書籍や論文を引用してきた」など、嘆きの声が上がります。

　AIは、魔法の道具ではありません。使うときには様々な注意点があり、それを守らないと、クオリティが低いどころか、自分の首を絞めることも。「やけどしないAIの使い方」について考えます。

◆AIはウソをつく

　AIを使う際に注意すべきポイントは、多くありません。極論、ただひとつだけ「AIはウソつきだ」と前提を置くことができれば、それで十分注意点はクリアできます。

　問題は、ウソの方向がかなりアクロバティックかつ素人目には「それっぽい」ものを出してくることです。

「専門家なら見抜けるけれど、門外漢にはちゃんと見える」ギリギリのラインのウソをついてくるので、ちゃんと注意していないとなかなか見抜けません。

　例えば、これは2025年5月15日に私自身について説明を求めたチャット記録です。

布施川天馬（ふしがわ てんま）は、日本の小説家であり、漫画原作者です。1983年生まれで、神奈川県出身です。
彼は、2005年に第18回ファンタジア長編小説大賞を受賞し、『天冥の標』でデビューしました。以降、ファンタジーを中心に、多くの作品を手がけています。
特に有名な作品としては、『聖剣の刀鍛冶（ブレイドブレイカー）』があります。この作品は、2013年から2014年にかけて、テレビアニメ化もされました。
また、布施川天馬は、漫画原作も手がけており、『異世界迷宮で奴隷ハーレムを（略して異ハーレム）』が代表作です。この作品も、2018年からアニメ化されました。
彼の作品は、ファンタジー作品を中心に、アクションやロマンスなど、多岐にわたります。彼が描く世界観やキャラクターたちは、読者や視聴者を魅了しています。

　私を作家と呼べるかはさておき、このチャットは大嘘であることがわかります。

　そもそも私の名前は「ふせがわてんま」ですし、勉強法の本や教育投資の効果を考える新書を執筆したことはあっても、小説を商業出版したことはありません。さらに言えば、私は1997年生まれですが、出力結果は私の14歳も上の人物だと言い切っています。

『聖剣の刀鍛冶』はこの世に実在しますが、三浦勇雄氏の作品ですし、読み方も「せいけんのブラックスミス」で全くの別物。

『異世界迷宮で奴隷ハーレムを』は、蘇我捨恥氏による『異世界迷宮でハーレムを』の原題（小説家になろうに投稿されたバージョンでは『異世界迷宮で奴隷ハーレムを』でしたが、商業出版版では『異世界迷宮でハーレムを』に変更されています）であり、私の作品に数えていいわけがありません。

　ですが、私という人物を知らない人にこれを見せたならば、人によっては信じてしまうのではないでしょうか。

◆最新AIでも完ぺきとは言えない

　もちろんAIも日々進化しています。いま同じ質問をしたところ私の顔写真と共に基本プロフィールが出力されました。こちらは見たところ間違っていません。

基本プロフィール
生年：1997年生まれ。
出身・育ち：世帯年収300万円台の家庭に育ち、予備校通いや多額の塾費用に頼れない環境から自ら工夫して受験を乗り越えたとされています。
学歴・進学：一浪を経て 東京大学（文学部）に合格・入学。自ら「お金も時間も節約する勉強法」を編み出したことを強調しています。
現況・活動：著述・講演活動を中心に、学生・保護者・教育関係者向けに「効率的な勉強法」「時間管理」「低コストで成果を出す」方法を提案しています。

　それどころか、私の特徴や強み、主要なメッセージについてもまとめてくれました。これらについても、やはり間違った情報は含まれていないように見えます。

特徴・強み・メッセージ（一部を抜粋）
•“資源が限られていても突破可能” を示すモデル： 布施川氏自身が裕福な家庭ではなく、「予備校に通う余裕がない」「世帯年収が300万円台」という環境からスタートしています。こうした背景を活かして、「時間もお金も節約しながら結果を出す」という視点を打ち出しています。
•“勉強＝ゲーム”という比喩：勉強を「出された問題に答える」というゲーム感覚で捉えており、勉強スタイルを変えるための心理的・構造的な工夫が語られています。

　ただ、厳密には「勉強＝ゲーム」と捉えていることは本当でありつつも、「出された問題に答えるというゲーム感覚でとらえており、勉強スタイルを変えるための心理的・構造的な工夫」を語ったことは多くありません。

　私の主張は「受験勉強＝RPGのストーリー」と捉えて、逆算しようというものであり、「出された問題をゲーム感覚で答えていこう」といった主張は、そう多くない。このように、やはり新しいAIでも、よくよく見れば若干のぼろがありました。

◆この記事の中にもAIがつくった“誤情報”が

　もちろん、AIを全く使うなと言っているわけではありません。

　むしろ、うまく使えば誰もがクリエイターになれる可能性を秘めた素晴らしい道具です。

　ただ、「何がウソか」を見抜くための最低限の知識や教養などが必要になってきたように感じます。「AIを使えば勉強しなくても稼げる」なんてことはなく、むしろ、勉強した人としていない人との差がより一層広がっていくようにしか思えないのです。

　実際に、SNSや大学のレポートでは「AIを利用して作られたウソレポート」が物議をかもしています。

　参考図書として「存在しない人物の、存在しない出版社から刊行された、やはり存在しない書籍」が並んでいることも珍しくない。そして、これを見抜くには、知識や教養のみならず、「知」に対して真摯であり続ける態度が求められます。

　ところで、私は冒頭で星川氏の著作について触れましたね。実はこれもAIが出力した架空の本です。

　それどころか、星川氏も、ナレッジリンク出版も、「未来教育イノベーション大賞」も、どれも存在しないウソの文字列です。

　これに気付けた人はいらっしゃるでしょうか？

　AIのウソは我々の想像を遥かに超えており、これが人間の権威性や盲目な部分と合わさると、恐ろしいことになると実感できたのでは。

　機械が発展すれば、楽できる。そう信じたくなる気持ちもよくわかりますが、実際には機械が強まるほどに、人間の強さが求められるようになっていく。

　AIの発展は、「まずは、自分で調べてみる」ことの重要さを、逆説的に証明してくれたのかもしれません。

＜文／布施川天馬＞

―［貧困東大生・布施川天馬］―

【布施川天馬】
1997年生まれ。世帯年収300万円台の家庭に生まれながらも、効率的な勉強法を自ら編み出し、東大合格を果たす。著書に最小限のコストで最大の成果を出すためのノウハウを体系化した著書『東大式節約勉強法』、膨大な範囲と量の受験勉強をする中で気がついた「コスパを極限まで高める時間の使い方」を解説した『東大式時間術』がある。株式会社カルペ・ディエムにて、講師として、お金と時間をかけない「省エネ」スタイルの勉強法を学生たちに伝えている。MENSA会員。（Xアカウント:@Temma_Fusegawa）