警察庁=東京都千代田区 生成AI(人工知能)や加工アプリを使い、実在する人物の偽の性的な画像や動画を作成する「性的ディープフェイク」が社会問題化している。警察当局には多くの被害相談が寄せられており、政府は関係省庁会議を開き、青少年被害に対する対策強化に乗り出した。関係者は「誰もが被害者になる可能性がある」と警鐘を鳴らす。
警察庁によると、昨年1年間に全国の警察が把握した青少年の性的ディープフェイク被害は100件以上あった。うち17件は生成AIが使われ、大半が同級生が作成していたという。
生成AIに詳しい岡田淳弁護士は、性的ディープフェイクを作成、公開した場合、「児童ポルノ禁止法違反やわいせつ物頒布罪などの罪に問われる可能性がある」と指摘する。被害者の社会的信用を低下させる名誉毀損(きそん)罪のほか、脅迫罪が成立する可能性もあるという。
政府は青少年のインターネット利用を巡る課題への対応策を議論する関係省庁会議を開催。取り締まりやサイト管理者らへの削除依頼の強化などを検討しており、来年度中に対策を取りまとめる。
民間ネットパトロール団体「ひいらぎネット」によると、学校のSNSに掲載された児童や生徒の画像や、卒業アルバムの写真が悪用されるケースもある。団体代表の永守すみれさん(36)は「自衛する方法はほとんどない。性別や年代に関係なく、誰もが被害者になる可能性がある」とし、被害者支援の拡充や啓発活動の重要性を訴えた。