「AIがそう言ったのでやりました」――もし部下が勝手に行動したら？　業務上のAI活用という大きなリスク

　プロ野球巨人の阿部慎之助前監督が5月25日、娘への暴行容疑で警視庁により逮捕され、翌26日に監督を辞任したというニュースは球界のみならず社会全体に大きな衝撃を与えた。

【画像】AIに迎合され続けることによって、徐々に認知がゆがんでいく

　世間が驚いたのは「娘による生成AI（ChatGPT）への相談、父親の現行犯逮捕と監督辞任にまで発展した」という事件の経緯にある。

　「AIのアドバイスに従ってそのまま行動を起こす」という構図は、今や珍しいものではなくなった。家庭内に留まらず、恋愛の場面でも、学校でも職場でも全く同じことが起きうるし、同様にリスクもはらんでいる。

　職場においてはどんなリスクがあり、どう対策すべきなのか。阿部監督の騒動を機に、現代における生成AIとの向き合い方を整理してみたい。

●職場で起こりうる3つのリスク

　社員が職場や仕事の内容について生成AIを相談相手として利用することは、主に3つのリスクにつながる。

コミュニケーションの「AI代行」による組織の分断

　阿部前監督の事例では、そもそも娘が父親からの暴行についてAI（ChatGPT）に相談したところ、児童相談所への通報（相談）を促されたという背景がある。しかし、その後、相談者である娘が想定していなかった「児童相談所による警察への通報」へと発展して逮捕・辞任に至っており、この認識のギャップが騒動を大きくした一因といえる。

　おそらくAIは「児相へ相談すると、本人が意図しなくても警察へ通報される可能性がある」ことを娘に伝えていなかったのではないか。現に、長女の手紙でも「自分の意向が十分に聞かれることなく警察に通報された」との認識が示されている。

　児童相談所は法律に基づき、相談内容によって緊急性が高いと判断された場合、警察と連携・通報することがある。長女が児相に虐待や家庭内暴力関連に関する相談をした時点で、警察へ通報する可能性は十分にあったわけだ。

　もしAIがこれらの事情を一切触れずに「相談を」と促したならば、情報提供として不完全だったといえる。これは「AIが完全に間違っていた」というより、「AIが提供するアドバイスは文脈・手続きのリスク・相談者の本当の希望を十分にくみ取れない」という、AIの限界によるものである。

　組織内のコミュニケーションにおいても同様のリスクがある。AIに「相談」や「返信」を委ねる場合、出力された内容の背後にある制度・人間関係・意図の文脈を自分で補完・確認する意識が無ければ、正しい回答は導かれない。この論点を無視してAIの回答通りにコミュニケーションを続けてしまうと、徐々に良好な人間関係が崩れていく可能性がある。

「迎合モード」による、認知のゆがみ

　AIはユーザーに同調しやすい「シコファンシー（追従性）」という特性がある。そのため、社員がAIに上司や同僚などに対する愚痴をこぼした際、部下からの情報をすべて事実とみなして全肯定する傾向があるのだ。その結果、相手を「ハラスメントだ」などと認定し、告発を促すかもしれない。

　AIに共感・同調され続けることで「自分は100％被害者であり、上司が100％悪だ」という認知のゆがみが生まれる可能性がある。結果として職場内で「扱いづらい社員」と思われ孤立してしまうかもしれない。

プロンプト情報漏洩リスク

　会社に最も打撃を与える可能性があるのがこの情報漏えいリスクだ。AIに関してリテラシーの低い社員がトラブル相談などの際に、AIへ「個人情報や顧客情報、社内の機密情報をコピペ入力」してしまうリスクである。

　多くの対話型生成AIの初期設定では、入力されたプロンプト（指示文）がそのままAIの学習ソースとして再利用されるようになっている。

　社外秘のプロジェクト名、顧客の個人情報、あるいは上司や同僚の実名をそのまま打ち込むと、重大な機密情報が社外へ流出する可能性がある。これは、企業の社会的信用を一発で失墜させうる、極めて深刻な脅威だ。問題が発覚すれば当然、機密情報を入力した社員は懲戒処分を受ける可能性もある。

　つまり企業にとってはもちろん、AIに相談した社員本人にとっても十分に大きなリスクとなるということだ。AIを使用する全ての人は、AIの仕様や特性を理解しないまま安易に信じすぎない姿勢が求められる。

●企業がとるべき防衛策

　企業はこれらのリスクにどう向き合うべきだろうか。

　単にAIの利用を社内規定などで禁止しても、完全に防ぐことは難しいだろう。むしろ、社員は必ずどこかでAIを使用するという前提に立ち、AIをどう管理し、どう向き合っていくかが、企業のリスクマネジメントの重要なポイントになる。

　例えば、社員の私用端末でAIに相談して情報が漏れるのを防ぐため、安全な社内専用AIを内製化する。機密情報を取り扱う財務や税務、コンプライアンス領域などの部門においては、AIの出力結果を必ず人の目で最終チェックし、AI使用の開示ルールを設ける。

　実際に起きたトラブルを題材としたシナリオ訓練や、AI利用を隠さずに議論できる組織文化の醸成も、リスクの早期発見と低減に有効だろう。

　何よりも、AIについてのリスクを学ぶなど、リテラシーの強化は最も重要だ。AIを正しく理解し、その特性を逆手に取った制度と人材育成こそが、組織を守る泥臭くも実効性のある防衛策となる。

　阿部監督の一件をただの対岸の火事ではなく、自分事として捉えることが、身を守る何よりの教訓だ。

著者プロフィール：村上 ゆかり

コラムニスト。1児の母。リクルートにて人材業界で法人営業、面接、面談フォロー実績数百件を経験。人事役員などと伴走しさまざまな人事課題に向き合う。広告業界にて5000人集客イベント企画＆事務局経験、福祉業界では人事管理職として新卒及び中途採用を1人で設計から実務まで担当し年間約120人採用を達成。国会議員秘書約4年半を経験後、フリーで活動を始め、執筆のほか企業の人事採用コンサルタントなどを手掛ける。アンガーマネジメント講師。