写真が勝手に性的に加工される……Xの「Grok」巡る騒動にSNSをあまりしないマンガ家も抱いた素朴な疑問　「これ、予想できたよね？」

　この年末年始、Xで利用できる生成AI「Grok」が原因で、大きな騒動がありました。クリスマスイブにXに実装された、投稿された画像をGrokで簡単に加工できる機能。これが原因でXにビキニ画像があふれ出したのです。

【その他の画像】

　Grokに簡単な指示を出すことで、誰が投稿した画像であっても簡単に加工できてしまう──当然、この機能が発表されると、SNS上では悪用に対する不安の声が多数上がりました。ボクも最初に知った時は「そんな機能、SNSに付けちゃう？」と、にわかに信じられない気持ちでした。

　そして案の定、世界中で女性の画像が性的に加工される事態になりました。折しも日本では年末に「コミックマーケット」が開催され、多くのコスプレイヤーさんの画像がSNSにアップされていたタイミング。その画像がターゲットにされるケースが多発し、大きな騒ぎになりました。

　年明けには、アイドルの漫画を描いていたマンガ家が「作画資料」などとして、仕事関係にあるアイドルの画像を水着姿に加工して投稿するという事件もありました。リポスト時にGrokの公式アカウントにメンションするやり方では、改変された写真が元投稿者の目に入る可能性も高く、冗談のつもりだったとしてもかなり悪質です。もちろん批判が殺到し、このマンガ家は後日謝罪しました。

　被害に遭ったアイドルグループの運営会社は生成AIを使った写真の改変について「メンバーの肖像権及びパブリシティ権を著しく侵害するもの」と声明を出しました。また、XのCEOであるイーロン・マスク氏も、自身のXアカウントに「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と警告しています。

　しかし、ただでさえ他人の画像を加工してネット上にアップする行為が当たり前に存在する現状で、そのハードルを下げるような機能を実装したら、こういう事態が起こりうることは充分に予想できたはず。マスク氏の投稿については、個人的に“今さら感”がぬぐえません。9日にはこれまで全ユーザーに開放されていたメンション方式の画像編集が、有料会員しか使えなくなっていることが分かったようですが、「画像を編集」ボタンによる画像編集はまだ使えます（9日時点）。

　生成AIに関しては元々、その学習元としてネット上のイラストが無断で利用されるなどの問題があり、絵を描く仕事をしている身としては色々と思うところはあります。とはいえ、こと今回の騒動に関していえば、シンプルに「他人のものを勝手にいじるな」「セクハラするな」ということに尽きるでしょう。子供の頃に親や先生に言われた「他人が嫌がることをしてはいけません」という言葉を思い出す、今日この頃です。

●著者紹介：サダタロー

1998年にテレビ番組「トロイの木馬」出演をきっかけに漫画家デビュー。代表作は「ハダカ侍」（講談社、全6巻）、「ルパンチック」（双葉社、1巻）、「コミックくまモン」（朝日新聞出版、既刊7冊）など。現在、熊本日日新聞他で4コマ漫画「くまモン」を連載中。Pixivはsadataro、Twitterは@sadafrecce。

●連載：サダタローのゆるっと漫画劇場

漫画家のサダタローさんが、世界初の電脳編集者「リモたん」と一緒に話題のアレコレについてゆる〜く語るまんが連載。たぶん週末に掲載します。連載一覧はこちら。過去の連載はこちらからどうぞ。