人気漫画家　生成AIに絵柄を無断学習される“なりすまし横行”に苦言「削除困難ギリギリ現行法を回避する」

■生成AIに関する議論が紛糾

  生成AIに関する話題は、連日のようにSNS上で“推進派”と“規制派”が激しい論争を繰り広げている。なかでも、イラストなどのクリエイティブな分野では、特に議論が紛糾している状態にある。SNSで目にするのは生成AIを規制したほうがいいとする意見であるが、推進したほうがいいという意見も多い。現在進行形で進化している生成AIの扱いをどのようにすべきか、結論が出るには至っていないのが現状だ。

　そんななか、生成AIに自身の絵柄を学習され、無断で絵柄LoRA（注：生成AIの絵柄学習モデル）を作成された漫画家がいる。『疫神のカルテ』などの作品がある樋口紀信である。樋口は生成AIを悪用され、実際に被害を受けた経験から、積極的にSNSで発信を行っている。いったいその被害の実態はどのようなものなのか。そして、生成AIと我々はどう向き合うべきなのか。

「前提として、現状の生成AIとその他のAIは分けて考えています。著作物や声を勝手に使って勝手に生成するのを、やめてほしいだけなんです」と話す樋口に、その想いを語っていただいた。

■絵柄LoRAを使った嫌がらせが発生

――樋口紀信先生は、自身が受けた絵柄LoRAの被害についてX上で発言し、さらに2人の有名漫画家にその実態を訴えて大きな反響を呼びました。なぜ、絵柄LoRAが無断で作成されるに至ったのか、その経緯について教えてください。

樋口：僕の絵柄LoRAを作った人物は、それまで他のイラストレーターにも絵柄LoRAで嫌がらせをしたり、Xでなりすましのアカウントを作成するなどしていました。問題視した方々がその人物を通報しても凍結されず、行動はエスカレートするばかり。法律での対応も難しいと聞いて、このままではダメだと思い、声を上げ始めたのです。

――なるほど。

樋口：すると、そのなりすましのアカウントの人物が、“樋口紀信”の名を冠した絵柄LoRAを作成したのです。Xのポストから嫌がらせだとわかりました。周りの人たちが各所へ通報してくれたのですが、削除には至っていません。そして、なりすましアカウントの人物は「LoRAが削除されていないから、出版社から見捨てられているんだ」などと、僕を中傷するコメントを書き込みはじめました。

――それは酷すぎますね。絵柄LoRAの取り下げ申請はできないのですか。

樋口：取り下げ申請はできるのですが、アメリカで訴訟になってしまう可能性もあるんです。それに、削除できてもすぐ再アップロードされてしまうと聞きました。しかも、相手は様々な点で、ギリギリ、現行法を回避しているのでタチが悪いのです。

――世界的には生成AIを規制する動きも起こっていますね。

樋口：EU諸国などでは生成AIに対する批判が強く、様々な法律が決まりだしています。外圧があってなのか、日本でも規制が検討され始めましたが、まだ法的な取り締まりに至っていません。ただ、文化庁からは、特定クリエイターを狙い撃ちしたAI学習（注：作家絵柄LoRAの作成）は無断で行えない旨が、現在の見解で示されています。文化庁は今年から生成AIによる被害を集め始めました。相談が増えているため、相談窓口を増やす意向もあると聞いています。

■生成AIが多方面で悪用される

――樋口先生は生成AIの問題について盛んに情報発信しています。もともと、こうした分野に関心はおありだったのでしょうか。

樋口：いえ、関心も知識もほとんどありませんでした。偶然、他の人の被害を目撃してから学んだ感じです。漫画を描いている時は気にする余裕もなくて……。生成AIの問題に気付けたのは療養中だったからですね。……本音を言えば、生成AIの問題なんて無視して漫画を描いていたいです。考えるだけで精神的に辛いんですよ。今後もどんな嫌がらせを受けるかわかりません。ただ、漫画家は問題に気付く余裕のない人や、発言しづらい立場の人も多いので頑張っています。

――生成AIは様々な犯罪に悪用される懸念が出ています。樋口先生が特に問題だと考える事例はなんでしょうか。

樋口：いわゆる“剥ぎコラ”ですね。俳優さんや一般人の写真などを使い、勝手にヌード画像に加工するものです。コスプレイヤーさんも、剥ぎコラを作られた方が複数いますね。既に剥ぎコラアプリが出回っているので、ハードルが下がってしまっています。そして、ディープフェイクの問題です。米国大統領や岸田首相のディープフェイクは有名ですね。今は一般人では見分けがつかないレベルのフェイクも多くなりました。また、海外ではいじめでディープフェイクポルノを作成され、自殺した人が何人もいるそうです。

――そうした事例を聞くと、生成AIを誰でも使える現在の環境が恐怖だと感じます。

樋口：漫画やイラストでは“画力のハードル”がなくなったため、特定のキャラや画風を使い、ガイドラインを無視した金銭目的や“いいね”稼ぎのための生成AIを使った二次創作が乱造されています。個人的には、今後、キャラや画風が嫌がらせやヘイト発言、詐欺に使われる可能性を危惧しています。

■二次創作が規制される可能性も

――生成AIの問題と一緒に語られることが少なくないのが、同人誌やファンアートなどのいわゆる二次創作の問題です。樋口先生は二次創作を嫌いなわけではないんですよね。

樋口：むしろ描いてもらいたいです。自分の作品の同人誌を買うのが夢でした。しかし、現在では僕の作品の二次創作は泣く泣く禁止しています。現状の生成AIは盗品の塊ですから、もし二次創作にそんなものを使われたらとても悲しいです。さらに、手描きの二次創作は逆に生成AIに盗まれる可能性があります。そんなことは絶対に起こってほしくありません。

――二次創作が放置されているのだから、生成AIの規制はおかしいという意見もあります。

樋口：生成AIで“キャラA”と指示してそのキャラが出るのは、“キャラA”の画像データを勝手に使っているからなんですよね。そんなの二次創作じゃなくて二次利用でしょ、って思うんです。下描きを生成AIで完成させる方法だって、結局は誰かから盗んだ画像から作られるんです。手描きと同列に語るのがおかしい。そもそも、二次創作のガイドラインは作者が決めるものです。これを機に、二次創作のプラットフォームの見直しも必要だと思います。二次創作自体嫌いな作者も多いと聞くので、生成AIを含め、細かく意思表明できて、それが尊重されるようになってほしいです。

■生成AIが漫画家を苦しめる存在になった

――経済界ではAIを推進する動きも見られます。日本の技術革新にはAIが必要であり、その真価を妨げるべきではないと。漫画家の間でも推進派はいらっしゃいますね。

樋口：生成AIとその他のAIを分けて考えるべきだと思います。現状の生成AIは世界中の著作物を無断で使っているから、大問題なのです。このまま推進すると負の部分が多すぎることを知っていただきたいですね。当初は僕も生成AIは漫画家を助けてくれる存在になると思っていました。ところが、蓋を開けてみたら、使い勝手が悪い上にあまりにリスクが大きく、とても使えませんでした。他人の所有物を勝手に使ったものなんて、危なくて使えませんよ。自著の画像も勝手に事前学習に使われていましたし。ユーザーも無断で他人の絵を追加学習し放題です。今のところ迷惑でしかありません。

――真逆の結果になってしまったわけですね。

樋口：補足ですが、使い勝手が悪いためか漫画界隈は目立った被害は少ないです。逆にイラスト界隈は非常に深刻な状態に陥っています。上手い人は片っ端から目を付けられ、無断で絵柄LoRAを作成され、配布されてしまっています。この結果、仕事が奪われた上に「生成AIで描いているんだろ」と疑われるという理不尽な現象も起きています。生成AIが吐き出す絵柄の裏には、絵柄を奪われた人がいるんです。とても悲しいことだと思います。

――そういった部分に、生成AIの負の部分が表れていると思います。

樋口：生成AIに関しては、著作権の問題、ディープフェイク、Googleの画像検索の汚染、ChatGPTのハルシネーションなど、問題点がありすぎるんですよ。有効活用よりも先に問題点を改善してもらいたいです。特にディープフェイクや剥ぎコラは、誰もが被害を受ける可能性があります。漫画家が勝手に画像を使われるように、みなさんがネットに載せた自分や親しい人の写真が勝手に素材として使われているのが現状です。こうした問題がもっと周知されてほしいですね。

――先ほどからお話を聞いていると、樋口先生の苦悩が伝わってきます。

樋口：予備知識がないと、わかりづらい問題だと思います。僕が望むことは、公的な団体やメディアが、現在こういう問題が起きていることをもっと発信すべきですし、してほしいということです。問題が多くの人に周知されたら、生成AIを規制したほうがいいと考える人が増えると思います。当初は既存の法律で縛れるという感覚だったと思うのですが、その結果、こんな状態になっているのですから、新しい法の整備などは必要でしょう。現状の生成AIは、ユーザーの手に渡る前から世界中の著作物や声を無断で使用して作られています。それがいちばんの問題なんです。許諾を取ったデータと、パブリックドメインだけで作ってくれればあとは使い方次第ですから、その方向に進むことを願っています。

（文＝山内貴範）