生成AIを悪用して“裸の偽画像”を作る「性的ディープフェイク」と呼ばれる被害が広がっています。SNSの写真などが悪用される今、どうやって私たちは身を守ればいいのでしょうか。【映像】「ディープフェイク」の関連サイト（実際の映像）「今現在被害に遭いやすいのは、例えば芸能人の方ですとか、スポーツ選手、それからアナウンサーの方とか、表に出て広く画像が公開されている人」（「ひいらぎネット」永守すみれ代表、以下同）
生成AIを使い「ニセのわいせつ画像」を作らせる「性的ディープフェイク」。10月には警視庁が初めて、芸能人のニセのわいせつ画像をインターネット上で公開したとして、30代の男を逮捕しました。
こうしたわいせつ画像をネットパトロールで見つけ、削除要請や通報をしているボランティア団体「ひいらぎネット」の代表・永守すみれ氏は、最近“ある変化”が生じているといいます。
「ここ1〜2年の間で、中高生、もっと小さいと小学生まで、一般の子どもたちまで被害に遭っている事例というのが発生するようになっています」「卒業アルバムがディープフェイクの素材にされるということが大変増えてきております」
あらゆる画像が素材として悪用され、若年層が関わるケースも増えているようです。警察庁によりますと、去年1年間に性的ディープフェイクに関する相談や通報は100件を超えました。
「自分の写真がどうやって流出してつくられているのかなと怖くはなります」「あまりSNSとかに顔出ししちゃうと使われてしまう可能性があるので、簡単にSNSとか使っていますけど、控えたい」（街の人ら）
SNSの普及によって“誰もが被害者になり得る”危険性がある一方で、インターネット上の特定のコミュニティ内で画像が拡散され、本人が気づかないという問題もあります。
「完全な自衛はまずできない。その中で被害拡大を防いでいくために迅速な削除、被害者支援というのがますます重要になっていくと考えています」（永守すみれ氏）
海外では法規制が進みつつありますが、日本の法律はまだ追いついていません。
「AIによる性的ディープフェイクを正面から想定した規律というものが存在しません」「どこまで加工した場合には処罰できないのかといった問題も含めて、グレーな領域がある」（岡田淳弁護士）
急速に進化し続けるAIに対応するために、社会全体をアップデートしていく必要があるといいます。
「必要であれば法律を改正する、あるいは新しい法律を制定するということも選択肢には入ってくるというふうには思います」「学校教育の充実とか、あるいは社会での啓発活動の充実、こういったこともきちんとやっていく必要がある」（岡田淳弁護士）
（ANNニュース）