画像生成AIにイラストの学習を禁止することはできる？ どこから著作権侵害になるの？【弁護士解説】

優れた性能を持つ画像生成AIが相次いで発表されるなか、画像生成AIの学習データや著作権に関する議論がSNSなどで活発化しています。

無断転載された画像をAIに学習させることは著作権法的に問題はないのか。特定の作家のタッチや画風を真似る画像生成AIは許されるのか……。画像生成AIをめぐるホットな話題について、出井甫弁護士に伺いました！

出井 甫（いでい はじめ）

骨董通り法律事務所弁護士。内閣府知的財産戦略推進事務局参事官補佐。エンタテインメント法務が専門。主にアニメ、ゲーム、AI、ロボット、VR業界の方をサポートしている。実はドラマーでもある。（Twitter：@hajime_idei）

聞き手：紀村まり（ぽな）

こたつとお布団、コーヒーをこよなく愛するフリーライター。法学部出身のはずが、なぜか卒論のテーマは村上春樹であった。やれやれ。（Twitter：@ponapona_levi）

画像生成AIに自分のイラストの学習を禁止させることはできる？

ぽな：
あの、あくまで個人的な感想なのですが、AIに対するクリエイターの反応って界隈によってだいぶ違うなと思っていて。ライターやデザイナーはそうでもない印象なのですが、なぜかイラストレーターさんの界隈は非常にAIへの反発が強い。実際、ネットニュースで炎上ネタとして上がっていたり、SNSでバズっているのも、ほぼイラスト関係ですよね。

出井：
たしかに、昨今ニュースやSNSを見る限り、画像生成AI関係の話題は非常にホットになっていますね。一番大きなターニングポイントは『Stable Diffusion（ステーブル・ディフュージョン）』の登場ではないでしょうか。

これまでも画像生成AIはありましたが、Stable Diffusionはなんとソースもオープン化してしまったんですね。その結果、誰もがこのソースを使って画像生成AIを作れるようになりました。自分の好きな画像をAIに食べさせて（※）、自分専用の画像生成AIを作ることもできると。実際ネットを見ると、毎日のようにどんどん新しい画像生成AIができているような状態ですね。

※食べさせる
画像などのデータをAIに学習させること。SNS等ではこのような言い回しをする人が多い。

▲出典：Stable Diffusion Online

ぽな：
そんなことになっているんですね……！ でも先生、素朴な疑問なんですが、AIに絵を描かせるためには元となる学習データがあるわけですよね。それって既存の、すでにネットで発表されているイラストを、クリエイター側に黙ってAIが学習データとして食べているということになりませんか？

実際、SNSだと「自分の作品はAIに食わせないでくれ」と発言しているイラストレーターさんもいるようですし、AIが勝手に自分の作品を学習してしまうことについて、法的な問題はないのでしょうか。

出井：
これはイラストレーターの方には申し訳ないんですが、現在の日本の著作権法上は「問題ない」という回答になります。というのも、著作権法30条の4には機械学習を許す規定があるんですね。

サーバー上に画像データ、つまり著作物を複製する場合は、原則として著作権者の許諾が必要です。ただ、AIにデータを学習させる目的のように、人が著作物を見たり、聴いたりして「味わう・楽しむ」といった知的・精神的欲求を満たす以外の目的で著作物を利用する場合は、著作者の許諾なしに利用しても基本的には許されるということになっています。海外だと非営利目的、学術研究目的に目的を限定して許可しているケースもあるのですが、日本の場合は営利・非営利目的を問わずOKです。

ぽな：
ええっ！？ たとえクリエイターさん本人が「イヤだ」と言っていても、ですか？

出井：
契約で縛っている場合はこの限りではありません。もし「AIに画像を食べさせてはならない」という契約をクリエイターさんとユーザーが結んでいたのに、その約束を破ってユーザーがAIに画像を食べさせちゃった場合は、契約違反ということになります。

ただ、契約が成立するためには、片方が契約を申し込んで、それに対して相手が承諾しないとダメなんですね。なので、SNSで一方的に宣言しているだけだと、契約が成立しているとは言えません。なお、この場合でも、先ほどの著作権法30条の4が適用される場合には、契約違反になったとしても著作権侵害にはなりません。

ぽな：
うーん、クリエイターに黙ってAIに画像を食べさせちゃうのがOKなのはわかりました。でも、ネットには違法にアップロードされた画像ってあるじゃないですか。無断転載されたイラストとか。そういうのを学習させるのは問題があると思うんですけど……。

出井：
現在の著作権法30条の4は、AIが食べる画像が侵害品だったとしても、そのことを適用除外事由にはしていないんです。だからたとえば、たまたまAIに食べさせる画像をクローリングをしていた際に、侵害画像が入っていたとしても、著作権法的には問題がないということになります。

いちおうただし書で「著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害する場合は、この限りではない」という条件が書いてはあるんですが、これがまた問題で。「一応制約は作ってあるけど、これじゃあ内容が漠然としすぎていて実際どんなときに適用されるのかよく分からないんじゃないか」という議論が起きつつあります。

ぽな：
たしかに「不当に害する」ってなんだよ。ふわっとしすぎでしょ……！

出井：
このただし書が適用されるか否かの判断については、文化庁がガイドラインを出しています。これによると、「著作権者の著作物の利用市場と衝突するか、あるいは将来における著作物の潜在的市場を阻害するかという観点から判断される」ということになってはいますが……。

ぽな：
まだ内容がふわっとしていますね……。この規定を見る限り、いろんな作家さんのデータを食べている場合って、たまたまタッチや画風が特定の人と似たものが出力されても問題にはなりにくい気がします。タッチや画風って流行があって、作家さん同士でも被ることはありますもんね。

でも特定の人のイラストデータばかりを食べさせた場合は、かなりグレーになりそうな気がするんですが……。

出井：
私もそう思います。たとえば特定の人のタッチや画風を学習して、その人の分身みたいなAIを作って出力したイラストを売った場合、AIが生成したイラストのほうが値段が安ければ「そっちでいいや」とAIのイラストを選ぶ人が出てくるでしょう。その意味で、作家の潜在的な販路を阻害する可能性はあると思います。

なので今後、ただし書が適用される具体的なシーンをめぐって、議論が出てくるのではないでしょうか。

※2023/05/30追記

文科庁および内閣府が公開した「AIと著作権の関係等について」にて、ただし書の具体的な事例が一部公開されています。

画像生成AIの著作権侵害問題における2つのポイント

ぽな：
ここまでのお話をまとめると、現状ではAIが既存のイラストを学習することについての法的な制限は、基本的にはないに等しい状況であるということですよね。

実際にアウトプットされた作品についてはどうでしょう。AIが作った作品が著作権侵害になる場合って、どんなケースなんですか？

出井：
侵害になる可能性がある場合というのは、簡単に言えば、アウトプットしたものが既存の著作物と似てしまった場合です。ただ、そのときに著作権侵害が認められるためには、①類似性、②依拠（いきょ）性という2つの要件を満たす必要があるんです。

特定の作家のタッチや画風を真似た作品を出力することは許されるのか？【①類似性】

出井：
順番に説明しますね。まず、①の「類似性」とは、既存の著作物に含まれる創作的な表現が似ていることをいいます。AIが出力した画像においても、それが、既存の著作物と「創作的な表現」の点で似ている部分があるのであれば、類似性が認められることになりますね。

ぽな：
いきなり難しいお話になってきましたが、イラストであれば構図やキャラクターの顔といった具体的な「表現」が似ている必要があるということですよね。となると、表現は似ていないけど、タッチや画風が似ている作品の扱いってどうなんでしょうか。

別の取材で、構図などに含まれる具体的な「表現」を真似るのは著作権法的にNGだけど、タッチや塗り方、画風が似てしまうのはセーフだと聞いたことがあります。

ぽな：
そりゃ、クリエイターが誰か他の作家さんの影響を受けて似た感じの画風になったり、流行に合わせて塗り方やタッチを変えていったり、といったことは創作の現場ではよくあることだと思います。なので、著作権法のあり方として「タッチや画風まで真似るのはダメだ」となってしまうと、かえってよくないというのはわかるんですが……。

出井：
そうですね。まさに、このあたりが画像生成AIをめぐって、クリエイター側の反発が起きている原因のひとつだと思います。いまリリースされている画像生成AIって、イラストレーターさんの画風や作風を真似るようなものが多いので……。

極論をいうと、特定の作者やキャラクターの画像だけを食わせて、作者の分身を作ることも技術的には可能になってきているんですね。アウトプットされる作品は、既存の作品とまったく同じではないけど、いままで時間と労力をかけて培ったイラストを描く技能がAIにあっさりコピーされてしまう。でも、作品自体は著作権を侵害しているわけじゃないので、クリエイター側は何も言えないと。その鬱憤が表に出てきているのではないかなと思います。

ぽな：
難しい問題ですね……。かといって、なんでもかんでも著作権で保護するわけにはいかないですし。

AIが描いたイラストに「元ネタ」はあるの？【②依拠性】

出井：
次に、②依拠性について考えてみましょう。これは既存の作品をベースにして作っていないか、つまり拠り所にしていないかどうかということですね。

ぽな：
特定の元ネタがあるのかってことですか？

出井：
はい、そうなんです。……が、AIの描いたイラストについては少し話が複雑です。特定の画像をAIに食べさせた結果、その特定の画像に似た作品ができてしまったということであれば、シンプルに依拠性が認められるでしょう。ですが、昨今のプロンプトを使った画像生成AIでは、AIが食べた画像がなんなのかがわからない。

ぽな：
あ……！ プロンプトに特定のキャラクターや作家名を入れた場合はさておき、プロンプトを入力している側も、どの学習データをもとにAIが出力しているかがわからないという。

出井：
そう、膨大な画像の要素を組み合わせていたら、どれが元ネタかなんてわからないですよね。そもそも、出力される結果だってランダムです。

となると、「本当に既存の作品を拠り所にしたのか」という話、つまり依拠性の有無が争点になってくるわけです。このあたりの扱いをどうするかは既に議論されていますが、技術的な限界も考えると「AIを使っている以上、依拠性は認める」という流れになっていくのではないのか、というのが私の意見です。

ぽな：
AIを使っている時点で「特定の画像を食べているから、そんな出力結果になるんでしょう」と考えられると。

出井：
そうです。使っている側は、少なくとも「他人の著作物を利用している可能性があることを知りながらAIで作品を作っているんでしょ」と捉えることはできますよね。

もし依拠性の判断をこのように考えると、基本的にはAIがアウトプットした画像が既存の画像と類似しているかどうかの方が、侵害の成否を決める際に重要視されることになると思います。

著作権侵害された場合、画像生成AI利用者に対してどんな訴えが起こせるか？

出井：
ただ、仮に著作権侵害が認められるとしても、AIを使って画像をアウトプットした人に対する損害賠償が認められるかについては別の問題があると考えています。

ぽな：
ええっ、どういうことですか。

出井：
損害賠償が認められるためには、故意または過失が必要なんです。

故意とは、侵害結果が起きることがわかっていてわざとやったということですが、AIが生成するものって、何ができるかは出力するまでわからないですよね。

ぽな：
ランダムですもんね。著作権侵害になっちゃう画像ができるかどうかなんて、作った側にもわからないですよ……。

出井：
なので、故意を認めるにはなかなかハードルが高い。

そしてもうひとつの条件、過失とは「その結果が起きることを予見できたか、その上で結果を回避するために努力したのか」ということです。ただ、AIを使ってイラストを作る場合は、そもそも結果が予見できるのか、という話になるわけです。

ぽな：
予見……できないですよねえ。特定のプロンプトから、それこそ無限にバリエーションが作れてしまいますから。結果が予見できるかというと難しい気がします。

▲CanvaのAI画像生成機能（Stable Diffusion）で制作した2枚のイラスト。プロンプトはどちらも「Anime girl」を入力したものの、別のイラストが出力された

出井：
そうなんですよね……。なので今後、ここも争点になるのではないかと思います。

もしいま、実際にアクションを起こすとしたら、差止請求ぐらいでしょうか。

ぽな：
差止め……。ええっと、AIで作った画像を発表している人に、「その画像は使わないでくれ」と請求するということですか。

出井：
そうです。差止請求には故意・過失が必要ないので、損害賠償はできなくても差止めはできます。なので、侵害された側としては、まずは差止請求をしていくのが現実的な対応になると思います。

ぽな：
クリエイターとしては納得のいかない結論になりそうですが、現状はそうするしかないということですね……。

画像生成AIは法的にセーフでも、社会的にはアウト？

ぽな：
ここまでの話を踏まえると、画像生成AIが描いた絵ががどんなに自分の作品と似ていても、クリエイター側が訴えるのは大変だ、という気がしてきました。それこそ、法的には文句がつけられないケースがほとんどじゃないかと。特に「細部の表現が似ているわけじゃないけど、特定の作家さんにタッチや画風が似ている作品」については……。

出井：
法的にはそうなってしまいますね。ただ個人的には、著作権に関しては、法的な問題に加えて倫理的な問題があると思っているんです。

というのも、著作権の世界には不思議なところがあって、「合法／違法」というレベルの話と、「社会的にセーフ／アウト」というレベルの話があるんですよ。特に確定していませんがここでは「著作権にまつわる4つのワールド」などと呼んでおきます。

出井：
1つ目は、「違法かつ社会的にもアウト」なもの。これは最悪ですね。

ぽな：
大きなニュースになった、漫画の無断転載サイトやファスト映画みたいなやつですね。

出井：
2つ目は「違法だけど、社会的に許容されている状態」。これは二次創作が典型的ですね。同人誌即売会なんてそれこそ著作権侵害の温床になってそうなものもありますけど、一つの文化として成り立っていますし、作者も黙認していることが多い。

3つ目は「合法かつ社会的にもセーフ」というもの。これはもちろん、どんどんやってください、という話です。

ぽな：
公式が発表したガイドラインに沿って行われる二次創作とかですかね。

出井：
そうそう。

面白いのは、4つ目です。「合法だけど、社会的にはアウト」というものがあるんですね。たとえばアートはアートでもちょっと卑猥なものとか、権利者へのリスペクトを欠いている作品とか。こうした社会的にアウトなものについては、「何をやっているんだ」ということでユーザーやファンが叩きに行って、自然に社会から消えていくという現象が起こるんです。

私はそれを「自然の浄化作用」と呼んでいます。著作権の世界では法とは別の原理が働いていて、人間が二次創作をするのはOKでも、AIが同様のことをした場合は叩きに行くということが起こっていますよね。

ぽな：
心情的にはわからなくもないけど、理屈として考えると不思議ですね……。

出井：
そのような動きがあるんですよね。だから画像生成AIが叩かれるのも、自然の浄化作用が見え隠れしている状態といえなくもありません。ただし、画像生成AIそれ自体が一律にアウトとまではいえないと思いますので、その対象は揺れているように思います。

ぽな：
でも、これだけ優れたイラストを描ける画像生成AIが出てきてしまっていると、クリエイター側がいくら騒いでも、AI利用の流れは止められないんじゃないかという気がします。しかも自分の作品を勝手に学習されて、自作と似た雰囲気の作品を作られてしまっても、少なくとも現行法上は適法といえるわけでしょう。

出井：
たしかに、作風やタッチは著作権法上保護されていませんから、イラストレーターが「自分の絵を真似された！」と騒いでも、AIを使っている側が「あくまで作風を似せているだけです」と反論することは考えられそうです。

ただ、完全一致を防ぐような技術、類似度チェッカーみたいなものはAIの中に組み込めるらしいんですね。そういったものがあることを前提に、「作風を似せるだけなら、ここまで似ないのでは？」という数字の話になっていく可能性はあります。これは今後議論になりそうなところです。

ぽな：
なるほど……。AIの学習のあり方などをめぐって、これから何らかの検討が始まる可能性もあるということですね。

出井：
そうですね。私としては、紛争化する前にガイドラインをはじめ、何かしらの手当が必要かなと思っています。

ただ、法的にAIの学習を規制しすぎてしまうと、それはそれでイノベーションを阻害してしまう可能性があります。

ぽな：
たしかに……。

出井：
それにAIがいろんなものを世に提供することで、創作活動の多様性が生まれるかもしれない。もしかしたら、クリエイターになれなかった人が創作活動を始められたり、既存の作家も作業の手間が省けるかもしれない。補助的なツールとしてはAIはとても有用だと思いますので、創作におけるAIと人間との共存をどうはかるかが今後求められていくのではないでしょうか。

画像生成AIの歴史はまだはじまったばかり

画像生成AIの是非をめぐってはクリエイターによって非常に反応がわかれる、と個人的には感じています。

私自身はライターということもあって、どちらかというと積極的にAIを活用していこうという立場なのですが、それでも今回出井先生のお話を伺って、ひとりの利用者として法的にクリアしなければいけない課題がたくさんあることに気が付かされました。

新しく普及が始まったばかりの技術ということもあって、一筋縄ではいかない画像生成AIの世界。ひとりのクリエイターとして、これからの展開を積極的に追っていこうと思います。

（執筆：紀村まり（ぽな）　編集：少年B　監修：骨董通り法律事務所　出井甫）