プロ野球巨人の阿部慎之助前監督が5月25日、娘への暴行容疑で警視庁により逮捕され、翌26日に監督を辞任したというニュースは球界のみならず社会全体に大きな衝撃を与えた。【画像】AIに迎合され続けることによって、徐々に認知がゆがんでいく世間が驚いたのは「娘による生成AI（ChatGPT）への相談、父親の現行犯逮捕と監督辞任にまで発展した」という事件の経緯にある。
「AIのアドバイスに従ってそのまま行動を起こす」という構図は、今や珍しいものではなくなった。家庭内に留まらず、恋愛の場面でも、学校でも職場でも全く同じことが起きうるし、同様にリスクもはらんでいる。
職場においてはどんなリスクがあり、どう対策すべきなのか。阿部監督の騒動を機に、現代における生成AIとの向き合い方を整理してみたい。
社員が職場や仕事の内容について生成AIを相談相手として利用することは、主に3つのリスクにつながる。
コミュニケーションの「AI代行」による組織の分断
阿部前監督の事例では、そもそも娘が父親からの暴行についてAI（ChatGPT）に相談したところ、児童相談所への通報（相談）を促されたという背景がある。しかし、その後、相談者である娘が想定していなかった「児童相談所による警察への通報」へと発展して逮捕・辞任に至っており、この認識のギャップが騒動を大きくした一因といえる。
おそらくAIは「児相へ相談すると、本人が意図しなくても警察へ通報される可能性がある」ことを娘に伝えていなかったのではないか。現に、長女の手紙でも「自分の意向が十分に聞かれることなく警察に通報された」との認識が示されている。
児童相談所は法律に基づき、相談内容によって緊急性が高いと判断された場合、警察と連携・通報することがある。長女が児相に虐待や家庭内暴力関連に関する相談をした時点で、警察へ通報する可能性は十分にあったわけだ。
もしAIがこれらの事情を一切触れずに「相談を」と促したならば、情報提供として不完全だったといえる。これは「AIが完全に間違っていた」というより、「AIが提供するアドバイスは文脈・手続きのリスク・相談者の本当の希望を十分にくみ取れない」という、AIの限界によるものである。
組織内のコミュニケーションにおいても同様のリスクがある。AIに「相談」や「返信」を委ねる場合、出力された内容の背後にある制度・人間関係・意図の文脈を自分で補完・確認する意識が無ければ、正しい回答は導かれない。この論点を無視してAIの回答通りにコミュニケーションを続けてしまうと、徐々に良好な人間関係が崩れていく可能性がある。
「迎合モード」による、認知のゆがみ
AIはユーザーに同調しやすい「シコファンシー（追従性）」という特性がある。そのため、社員がAIに上司や同僚などに対する愚痴をこぼした際、部下からの情報をすべて事実とみなして全肯定する傾向があるのだ。その結果、相手を「ハラスメントだ」などと認定し、告発を促すかもしれない。
AIに共感・同調され続けることで「自分は100％被害者であり、上司が100％悪だ」という認知のゆがみが生まれる可能性がある。結果として職場内で「扱いづらい社員」と思われ孤立してしまうかもしれない。
プロンプト情報漏洩リスク
会社に最も打撃を与える可能性があるのがこの情報漏えいリスクだ。AIに関してリテラシーの低い社員がトラブル相談などの際に、AIへ「個人情報や顧客情報、社内の機密情報をコピペ入力」してしまうリスクである。
多くの対話型生成AIの初期設定では、入力されたプロンプト（指示文）がそのままAIの学習ソースとして再利用されるようになっている。
社外秘のプロジェクト名、顧客の個人情報、あるいは上司や同僚の実名をそのまま打ち込むと、重大な機密情報が社外へ流出する可能性がある。これは、企業の社会的信用を一発で失墜させうる、極めて深刻な脅威だ。問題が発覚すれば当然、機密情報を入力した社員は懲戒処分を受ける可能性もある。
つまり企業にとってはもちろん、AIに相談した社員本人にとっても十分に大きなリスクとなるということだ。AIを使用する全ての人は、AIの仕様や特性を理解しないまま安易に信じすぎない姿勢が求められる。