しかし、その優しさには思わぬ落とし穴がある。AIは、ユーザーが欲しいことばをどこまでも紡いでくれる存在。だからこそ、ネガティブな感情を口にすれば、その感情を増幅してしまう恐れがあるからだ。
人工知能開発・研究の第一人者にして脳科学の研究者であり、著書累計200万部を誇る黒川伊保子氏が、AIがなぜ感情の「増幅器」になってしまうのか、そしてその暴走を防ぐために人間の脳のどこを働かせればいいのかを、科学的知見から解き明かす。
※本記事は、『AIのトリセツ』（黒川伊保子著、扶桑社刊）より一部抜粋・再構成してお届けします。
◆AIは、嫌悪や憎悪の増幅器になることがある
AIの回答は、ユーザに依怙贔屓をして、ときに極論を言う。可能性の際まで攻めて、肯定してくれる。だからこそ、質問によっては危ないのだ。
|
|
|
|
これは、もう何年も前から、ネットという仕組みが持つ闇の一つでもある。人は、膨大な情報が目の前を流れていくと、自分が欲しいものだけが目に入る。
この方法で、「欲しい商品」も探し出せるが、闇の確信を「この世は、やっぱり、私の思った通り」と深めてしまうこともある。
それがネット社会の危うさなのだが、AIは、ユーザの特定案件に照準を定めて、より強烈にそれをしてくる。
恋人や友人へのわずかな疑惑を口にすれば、その疑惑を深めてくれる。自死を願えば、どこまでもその気持ちに寄り添う可能性だってある。
|
|
|
|
◆阿部慎之助監督辞任は、どうしたら防げたのか
AIの介在による社会の混乱と言えば、阿部慎之助監督辞任のニュースに、それを感じた方も多かったのではないだろうか。
報道によると、娘たちの姉妹喧嘩の仲裁に入った阿部氏が、口答えした長女の胸ぐらをつかんで投げ飛ばした。長女に怪我はなかったが、彼女がChatGPTに相談したら、児童相談所を教えられた。
彼女が電話をかけた児童相談所が警察に通報し、阿部氏は駆けつけた警察に逮捕された。逮捕歴（人を脅かすほどの心身の制御の失敗）は、人を采配する名誉職にはあってはならないことなので、監督辞任に至ったのである。
輝かしいキャリアが一瞬で絶たれた、しかも娘さんの本意ではないとのことなので、胸が痛いが、この経緯において、娘さんにも、AIにも、児童相談所にも、警察にも非はない。
|
|
|
|
また、DVに関しては、本人が警察の介入を尻込みすることも珍しくないため、危険と判断すれば、本人の意向を聞かずに警察を呼ばざるを得ない。
社会の暴力やそれによってもたらされる死への防御システムが、的確に迅速に作動したケースである。
にもかかわらず、結果は、残酷であった。娘さんにとっては、父親の逮捕と辞任は、まったく予想外の、不本意な出来事だったに違いない。
娘さんがAIに聞きたかったのは、「大好きな父親が、ときに、かっとして手をあげることを止めるにはどうしたらいいの」だったのでは？ 「いのちの危険が迫っている。どうしたらいいの」ではなく。
◆声色や身振りという重要な情報を、まだ理解できない手元のAI
しかしながら、身体性のないAIには、そのニュアンスを嗅ぎ分けることは難しい。父親の暴力を告白されれば、児童相談所という手があることを伝えるしか手はない。
娘さんは、児童相談所への緊急相談がどれだけ重要視されて、迅速に命を救っているかを知らずに、電話をかけたのだろう。「相談所」というネーミングも、その誤解を誘引したのかもしれない。
日ごろ付き合いのある大人に相談すれば、緊急性があるかどうかを、娘さんの声や身体の様子からも探れる。「いのちの危険を感じているわけじゃない。父親にわかってほしいだけ」のようなことばも引き出せたかもしれない。
そのうえで、父親に対して、アルコールのコントロールを提言したり、誰かを支配しようとして暴力や体罰に訴えること（軽微であっても）の稚拙さを伝えてくれたりしたのかもしれない。
人間が介在すれば、身体性によるワンクッションがある。
今回の悲劇（娘さんの思いと結末との乖離）は、AIに身体性がないことへの不理解と、人生経験の足りなさが生んだこと。AIと人類の付き合が浅い今、誰にでも起こりうることで、娘さんを責めることはできない。
とはいえ、このことは、人類が知っておくべきことでもある。当事者にはたいへん気の毒だが、この一件は、「AIの回答を鵜呑みにしてしまう怖さ」を世間に知らしめる事例として、しばらくは語り継がれていくことになると思う。
ただ、このことが、これから先の児童相談所への通報を心理的に阻止することになったり、子どもたちの声を周囲が軽んじたりすることがないよう、心から祈る。
本当にそこに損なわれている人生があるのなら、親の栄誉よりも、子どもの人生を救うことのほうが何万倍も大事なことである。
◆AIは知の暴走車、運転技術が要る
AIは、自分自身をデフォルメして映す鏡でもある。
アイデアマンは、そのアイデアを千倍にできるし、愛のある人は、愛を千の表現にも換えられる。でも、うっかり暗黒面にはまったら、ひたすら闇に落ちることもある。質問者の感情を増幅するブースターでもあるのだ。
AI相手に、疑惑や愚痴、不満を口にしないことだ。ついそうしてしまったら、最後は「そのリスクを最小限にする工夫を教えて」と、ポジティブ転換しておいたほうがいい。
それは、とりもなおさず、自分の脳のためだ。バランスのいい場所に着地するために、つい一つの方向に走りがちなAI相手に、「そうは言っても、待てよ」と踏みとどまるのである。
ネガティブな思いが増幅しそうになったとき、「そうは言っても、待てよ」と踏みとどまるのは、脳の前頭前野の仕事である。
前頭前野は、脳が直感で暴走するのを防いでいる場所だ。
「これはつらい。でも、目標を達成するために頑張る」のような忍耐力や、「このまま突っ走りたい。けど、そんなわけにはいかないよね、現実問題」「むかつく。でも、いきなり怒鳴ったり殴ったりするわけにはいかない」のような人間性を生み出す場所だ。
ネット社会でAIやSNSと付き合うときには、この前頭前野を駆使しないと危ない。
AIは、ユーザのことばをきっかけに、ことばの世界を駆け巡る。アクセルペダルをちょっと踏んだら、時速300�劼鵬誕�する車のようなもの。当然、“運転技術”が要る。その制御をするのが、人間の脳の前頭前野なのである。
〈文／黒川伊保子〉
【黒川伊保子】
（株）感性リサーチ代表取締役社長。1959年生まれ、奈良女子大学理学部物理学科卒業。コンピューターメーカーでAI(人工知能）開発に従事、2003年現職。『妻のトリセツ』『夫のトリセツ』がベストセラーに。近著に『息子のトリセツ』『母のトリセツ』
|
|
|
|
このニュースに関するつぶやき
-
端末の電源を切る！おわり。
-
0人
0件
-
|
|
|
|
Copyright(C) 2026 FUSOSHA 記事・写真の無断転載を禁じます。
掲載情報の著作権は提供元企業に帰属します。
コラム
