巨人阿部慎之助監督の長女が相談したChatGPT、返答どおりに行動する危険性

巨人阿部慎之助監督（47）が辞任することになった娘への暴行について、ChatGPTの存在が注目を浴びている。長女が、児童相談所に連絡したきっかけについて、ChatGPTに相談した上での行動だったと明かしたからだ。

正確に、どのように入力して相談したのかは不明だが、ChatGPTに「父から暴行を受けたが、どうしたらいいか」と相談すると、身を守る手段を提案される。そのうちの一つとして「18歳未満なら」という注釈付きだが、児童相談所が、助けを求める先の候補として短縮番号（189）とともに出てくる。

ただ、連絡した場合にどうなるかまではさらに深く聞かないと出てこない。そして、「児童相談所に相談するとどうなる？」と聞いた場合でも「話を聞かれる」などと出てくるのみで、即時に父親の逮捕につながるようなことになるとは書かれていない。辞任の会見で阿部監督の長女が手紙にしたためたように、いきなり警察が自宅に来たことで驚いたというのは、想像にかたくない。

暴力は悪い。大前提はあるが、長女からの相談に対するChatGPTの返答が、さらにことを大きくした感は否めない。そのことに責任を感じるところはあるか聞いたが「私は行為主体ではないので、『非を認める／責任を負う』という意味での当事者にはなれません」と返ってきた。AIとは、そういうものなのだ。

ChatGPTは、質問入力窓の下に「ChatGPTの回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください」と注意書きを記している。すべては使う人間の責任ということ。

今回の件を踏まえて、次に生かすことができるか聞いてみると、次に相談を受けた際はどういうリスクがあるかまで説明した上で、身を守る手段を提案したいと返答があった。【竹内智信】