世界中で熱狂を巻き起こしている歌手のテイラー・スウィフト。その大スターの写真をAIツールで合成したわいせつ画像がXで拡散した事件は、ファンだけでなく幅広い方面に衝撃を与えた。だがこうした問題の深刻な影響を受けるのは、SNSに気軽に自分の写真を掲載している普通のユーザーの方かもしれない。
報道によると、問題の画像は1月下旬にXに投稿され、瞬く間に拡散した。投稿したユーザーはポリシー違反でアカウントを停止されたが、約17時間後に画像が削除されるまでの間に4500万回以上閲覧され、2万4000回もリポストされたという。
この間、強力な反撃に出たのは世界中のスウィフトのファンだった。わいせつ画像に関連してXのトレンドに浮上したハッシュタグ「Taylor Swift AI」を圧倒するために、ファンが結集して「PROTECT TAYLOR SWIFT」（テイラー・スウィフトを守れ）のハッシュタグを集中的にポスト。スウィフトを守る側の投稿でXをあふれかえらせ、問題の画像を抑え込むことに成功した。
騒ぎが大きくなったことを受けてXも「Taylor Swift」の名を一時的に検索できなくる異例の措置を講じたことを明らかにした。さらにXの安全性を管理する公式アカウント「Safety」（＠Safety）は「同意のないヌード画像の投稿は固く禁じられており、そうしたコンテンツは一切容認しない。画像が見つかった場合ば全て削除し、投稿したアカウントに対する適切な措置を講じる」とポストしている。
|
|
|
|
●問題のAI画像は「Microsoft Designer」を悪用か
他人の写真を勝手に合成して本物と見分けがつかない動画や画像を捏造（ねつぞう）するディープフェイクの被害は今に始まったことではない。だが手軽に使える無料AIツールが一気に普及したことで、誰でも簡単に偽動画や画像を作成できるようになった。
スウィフトのように絶大な影響力を持つ有名人が標的になったことは、そうしたAI生成画像の問題が脚光を浴びるきっかけにもなった。米Microsoftのサティア・ナデラCEOやホワイトハウスの報道官も憤りを示しており、今後当局が規制に乗り出したり、SNSやIT大手が対策を強化する可能性もある。
スウィフトのわいせつ画像は、4chanやTelegramでユーザーが捏造（）した有名人の画像を競って投稿しているチャンネルが出どころだったとされる。作成に利用したのはMicrosoftの画像生成AI「Microsoft Designer」だったと伝えられている。
Microsoft Designerは、 言葉で指示を出して画像を生成できるChatGPTのAIツール「DALL・E-3」を搭載している。同ツールはヌード写真や有名人の写真の合成を禁じているが、ユーザーは抜け穴を見つけて禁止をかいくぐっていたことも分かった。
|
|
|
|
Microsoftは指摘を受けてそうした抜け穴をふさぎ、悪用防止対策を講じると表明。有名人の画像の合成や、アダルト画像や同意のないわいせつ画像を禁止することも明記した。
ただ、Telegramや4chanではそうした対策をかわす手口について活発なやりとりが続いているといい、悪用する側と阻止する側のいたちごっこが続くのは必至だ。
●一般人もディープフェイクの被害に 対策は？
有名人に限らず、顔写真が無断で使われ、わいせつ動画や写真が捏造される被害は深刻化している。スウィフトの場合、ファンが結集して対抗し、Xにも行動を起こさせたが、ほとんどの被害者にとって、そうした力強い味方はいない。
実際に、米国の高校の女子生徒が男子に自分の写真を無断で加工されたと訴えたり、Twitchの男性ストリーマーが金を払って人気女性ストリーマーのディープフェイク動画を作成させていたことがバレて謝罪したりといった事例は後を絶たない。
|
|
|
|
自分がいつ被害に遭ってもおかしくない現状で身を守るためにはどうすればいいのか。CNNは以下のような専門家のアドバイスを紹介している。
・自分のプロフィールは非公開とし、写真を共有する相手は信頼できる相手に限定する
・親しい相手から「リベンジポルノ」の被害に遭う場合もある。最大の安全策は共有する内容を制限すること
・わいせつ画像を作成するためにはさまざまな角度からの顔写真が必要とされるため、写真は少ないほどいい。ただし今後AIシステムが進化すれば、たった1枚の写真からもディープフェイクの合成が可能になるかもしれない
・アカウントに不正侵入されて写真や動画にアクセスされる被害を防ぐため、安易なパスワードは使用しない
|
|
|
|
|
|
|
|
Copyright(C) 2024 ITmedia Inc. All rights reserved. 記事・写真の無断転載を禁じます。
掲載情報の著作権は提供元企業に帰属します。
IT・インターネット
ランキング
IT・インターネット
アクセス数ランキング
- 1
コンビニでフェス開催? POP注目（写真：Jタウンネット）21
話題数ランキング
- 1
コンビニでフェス開催? POP注目（写真：Jタウンネット）21
