結局、AI創作とどう向き合うべき？ 知られざる著作権の落とし穴と対策【弁護士解説】

イラストや文章など、AIの進出が止まりません。特に2022年はMidjourney（ミッドジャーニー）やChatGPT（チャットGPT）など、優れた性能を持つコンテンツ生成AIが相次いでリリースされ、大きな話題になりました。

こうしたクリエイティブ分野のAI生成ツールについては、クリエイター側が「自分たちの権利を侵害するのではないか」という懸念を表明する一方で、作業の手間が省けるなどクリエイターにとってのメリットも指摘されています。では、これから制作に積極的にAIを取り入れていきたい、という場合、クリエイターとしてはどんなことに気をつけるべきなのでしょうか。

AIに詳しい弁護士の出井先生に「AIとクリエイターの共存」について聞いてきました！

出井 甫（いでい はじめ）

骨董通り法律事務所弁護士。内閣府知的財産戦略推進事務局参事官補佐。エンタテインメント法務が専門。主にアニメ、ゲーム、AI、ロボット、VR業界の方をサポートしている。実はドラマーでもある。（Twitter：@hajime_idei）

聞き手：紀村まり（ぽな）

こたつとお布団、コーヒーをこよなく愛するフリーライター。法学部出身のはずが、なぜか卒論のテーマは村上春樹であった。やれやれ。（Twitter：@ponapona_levi）

AIを使う側が気をつけなければいけないこと

ぽな：
便利なAIツールが続々と登場する中、AIを作品づくりに取り入れる方も増えると思うんです。ただ、AI創作物には著作権が発生しないなど、非常にややこしい問題があるということですね。

では、実際に我々クリエイターがAIツールを活用していく場合、トラブルを避けるためにはどんなことに気をつければよいのでしょうか。

出井：
まず、著作物性の問題についてですが、自分の著作物として保護したいのであれば、AIが生成した作品には全体的に人の手を加えることが重要だと考えています。

そうすることで、「AIが生成した作品だから著作権は発生していないのでは？」という問に対して、「いえ、AIは道具であり、私が創作した作品ですから私の著作物です」という説明ができるようになるからです。自己防衛のためにも、できた作品については全体的に加工を加えることを、一選択として念頭に置いておくことが望ましいといえるでしょう。

ぽな：
できた作品に著作権が発生しないとなると、パクられても文句言えないですもんね。

でも先生、加工の程度ってどれくらい必要なんでしょうか。たとえば人物イラストだったら、腕の形や向きを修正するとか、その程度の加工でもセーフなんですか？

出井：
どれくらい加工するべきか、というのは非常に難しい問題なのですが、やはり「全体的に」手を加えるというのは、ひとつポイントになるのではないでしょうか。少なくとも「自分が手を加えたところの範囲については、AI以上に私が貢献している」といえる程度の加工はするべきだと思います。

というのは、腕の向きを変えたところで、画像の一部、たとえば加工していないバストアップをそのまま使われてしまった場合はどうなりますか？ 「そこは人の手が入っていないので、著作権は発生していません」と言われてしまうと、こちらとしては文句を言えないということになってしまいます。

ぽな：
なかなか厳しいですね……。

出井：
文章であれば、単に誤字脱字チェックしただけとか、文末の表現だけ変えるというやり方では難しいでしょうね。また、文章についてもなるべく部分的なパクりに対応しておきたいのであれば、やはり全体に手を加えるように意識する必要があると思います。

自分の表現をまんべんなく広げてあげる、全体を見渡して内容を監修し、加工するイメージでしょうか。そうすれば、仮に一つひとつの監修作業やパーツに創作性がなくても、全体の組み合わせにはその人の個性が出てきますので。

ぽな：
うーん、となると、もう作品全体に手を加えないとまずいって話になってきませんか？ それこそ「AIは下書き程度に使う」くらいのスタンスでいかないと。イラストでも文章でも、AIの作ったものをちょっと手直しするくらいの加工だと厳しそうです。

出井：
現在の法律を前提にすると、それくらいやった方が安心だろうと思います。

ぽな：
なるほど……。逆に、自分が加害者になってしまう場合、たとえばAIを使ったことによって、誰かの著作権を侵害するリスクについてはどうでしょうか。

出井：
ここでも加工の程度がポイントになります。AIによって生まれた作品に自分のオリジナル性を加えることで、他の人の著作権を侵害するリスクも軽減できますから。

ぽな：
自分なりにアレンジすることで、誰かの作品と似ないようにするということですね。

出井：
「誰かの作品に似ないようにするAI」というのも考えられるんですけど、それはもう事業者の問題で、ユーザー側で何か対策するのは難しいですから。だから、他者の著作物とは似ない方向へ加工・変更していくことが、一番やりやすい対策かなと考えています。

もちろん、それでもほかの誰かの作品に「たまたま」似てしまう可能性はありますが、その場合は誰かの作品をもとに作ったとは言いづらい。そうすると、著作権侵害になる条件のひとつ「依拠性」がないということで、著作権侵害リスクを低減することにつながると思うんですよね。（依拠性については前回の記事で詳しく解説しています）

ぽな：
できあがった作品にオリジナルの要素を加えていくことで、万が一誰かの作品に似てしまっても著作権侵害になりにくくなるわけですね。

出井：
あとは画像関係ですと、画像検索も使えるツールです。できあがった画像をアップロードして、似ているものがネット上にないか確認しておく。それだけでもリスク軽減につながると思いますよ。

また、作品を生成する前にできる対策としては、「プロンプトに特定の作品や作家、キャラクターの名前を入れない」というのもあげられます。たとえば、画像生成AIに打ち込むプロンプトに特定のマンガのキャラクター名を入れれば、そのキャラクターのイラストが出てくることはある程度予想できますよね。

ぽな：
たしかに、高い確率で他人の著作権を侵害する作品ができそうですね……。

出井：
あとは、これは著作権に限らない話なんですけど、一つひとつの単語に問題がなくても、くっつけることでヤバい作品ができる可能性が高いという単語の組み合わせがあります。「人物名＋悪魔」とか。そういう単語を組み合わせたプロンプトを打ち込むと、できた作品は当然高い確率でヤバいものになりますよね。

ぽな：
ですよねえ。クソコラじゃないですけど……。

出井：
そうなってくると、名誉毀損や肖像権侵害といった、著作権侵害以外の問題が生じる可能性があります。当たり前の話ですが、まずい結果が予測されるような言葉はプロンプトに使わないようにしておきましょう。

AIを使った作品を販売する場合の注意点

ぽな：
それにしても、ここまでAIツールが普及すると、今後制作にAIを使っているクリエイターがクライアントと取引をする機会も増えてきそうですね。

AIを補助的に使うケースもあれば、メインで使うケースもあると思うんですけど、実際にクライアントと契約を結ぶ上で気をつけなければいけないことって何かあるのでしょうか。

出井：
今だと補助的にAIを使って作品を作るケースが多いと思いますので、基本的には従来通りの取引をしていただいていいのではないでしょうか。

ただ、補助的な使用とはいえ、AIを使って制作していることをクライアントが想定していない場合もあると思うんですよね。「あなたの手で生み出される作品」を期待して依頼しているケースです。

ぽな：
そうですよね……。著作権のこともありますし、クライアントとしても、その人に作品を作ってほしいということで依頼をしているわけですから。クリエイターがAIで作った作品を納品してしまうと、いろいろと問題がありそうです。

出井：
自動校正ツールを使う程度でしたら問題はないと思いますが、メインの作業をAIにまかせてしまうと、クライアントとしては「えーっ、あなたが作っていると思ったから契約したのに」となるかもしれないですよね。となると、契約の前提条件が違う、ということで契約の取り消しを主張されてしまう可能性があります。

あと、これは何度も言っていますが、AIの使い方によっては作品に著作権が発生していない可能性もありますから。

ぽな：
全体的に加工していれば大丈夫でしょうけど、加工の程度によっては作品の著作権が認められないかもしれないんですよね。

出井：
はい。納品された側は作品に著作権がある前提で契約しているのに、「AIが作ったので著作権はありませんでした」となったら、欠陥品と言われてしまってもおかしくありません。

ぽな：
うーん……。それはかなり危ういですね。

出井：
それどころか、クリエイターはクライアントと利用許諾契約も結べなくなりますよね。だって、著作権がないんですから。なので、著作権が発生していないのに「ある」と宣伝したり、あるという前提でクライアントと取引をしていたような場合には詐欺として訴えられてしまう可能性もあると思います。

ぽな：
ひぇぇぇ！ 作品のライセンス料をもらっていたりしたら、さらにやばいことになりそうです。

出井：
そうですね。そういうリスクもありますので、制作にAIを使っている事実や使用するAIツールについては取引交渉の段階で、きちんと伝えておいたほうがいいと思います。もし、作品に著作権が発生しない可能性があるのなら、そのリスクも理解してもらう必要があるでしょう。

ぽな：
そう考えると、正直に伝えておいたほうが無難かもしれませんね……。

賠償金で荒稼ぎする「コピーライトトロール」の拡大懸念も

出井：
AIと著作権については、すでにいろいろと論点があります。ここまでお話ししてきた「AI生成物に著作権は発生するか？」もそうですし、「AIが他人の著作権を侵害した場合の責任は誰が取るのか？」「AI生成物に著作権が発生した場合、プロンプトの作者は著作権者に当たるのか？」といった問題もあります。

ぽな：
SNSを見ていても、すでに議論が山積みという印象です。AIが絡むだけでこんなにややこしくなるなんて……。

出井：
ほかに指摘されている論点としては、AI生成物の僭称（せんしょう）問題があります。コピーライトトロールとも呼ばれているんですが、作品をどんどん作って、似た作品を見つけた瞬間に「著作権の侵害だ！」と訴えて賠償金で荒稼ぎをする手法ですね。

AIによって、作品づくりがより早く、簡単にできるようになったので、コピーライトトロールがしやすくなるんじゃないか、という問題です。AI創作物には本来著作権が発生しないので、理論的には著作権侵害にはなりませんが、外見上、AIが創作したかどうかの区別はつかないですからね……。

ぽな：
以前、著作権封じをしているアメリカの弁護士のお話をうかがいましたが、ほんとにとんでもないことを考える人もいるんですね……！

出井：
今のところはまだ懸念レベルの話ではあるんですが、起こり得る可能性のあるトラブルですよね。しかも面倒なことに、著作権法上、こうした行為を取り締まることができないんですよ。

ぽな：
えっ！？ どういうことですか！？

出井：
著作権法では、他人の著作物を、自分が著作者であると偽って表示した複製物を頒布した場合には「著作者名詐称罪」という犯罪が成立します。

ぽな：
じゃあ、「AIが作った作品」を「自分の作品」だと言ったらまずいじゃないですか。そんなに心配しなくても……。

出井：
ところが、その条文には「著作物の複製物を頒布したもの」って書いてあるんです。そしてAIが作ったものに著作権は……？

ぽな：
ない！！！

出井：
そうなると、この規定は適用できない。つまり、AIを悪用したコピーライトトロールについては著作権法では取り締まることができないということになります。

もちろん、詐欺や恐喝、業務妨害などにあたるとして、別の法律で取り締まられる可能性はあります。ただ、少なくとも現在の著作権法では何らの手当がなされていない状況になっています。

ぽな：
もう技術の進歩に法律が追いついていない感じですね……。

出井：
そういう問題が起きたとき弁護士としてどう対応するかを考えたら、「著作権侵害をしている」と名指しされた側の代理人として、「いや、それはあなたの著作物じゃなくて、AIが作ったから著作権はない」と反論するかもしれません。

ただ、これまで私も裁判はいろいろ見てきましたけど、少なくとも日本ではその作品が「人間による著作物かどうか」を争う裁判例って今のところ見たことがないんですよ。だってみんな、そこは争えないだろうと思っていたから。

ぽな：
これまでは前提として、「著作物は人間が作るものだ」という認識が共有されていたんですね。ただ、今後はそのあたりが裁判でも争われる可能性があると。

出井：
今後は、「私が作ったものです」「AIが作ったものではありません」という証明が必要になってくる可能性がありますね。ましてやAIを使った作品を世に出している場合は、なおさらそのあたりが問われていくことになるでしょうね。

ぽな：
今までの前提が覆される、大変な話になってきました……。

AI利用者には「説明責任」が伴う？

出井：
2022年、アメリカで画像生成AIで生成した作品の著作権登録が争われた事件が2件ほど起きています。

一つはある研究者が画像生成AIで作った作品を「作者：Creativity Machine」として著作権登録しようとしたケース。これは「人が作ってないから」という理由で、結局登録は認められませんでした。

もう一つは、画像生成AIの『Midjourney』で作ったマンガを著作権登録しようとしたケース。こちらは最初、登録が認められたんです。

ぽな：
えええ、どうして！？

出井：
と、思いますよね。これは、ストーリーやレイアウト、つまりAIで生成された画像をどの順番で並べてマンガにするのか、といったところを人がやっていたんです。なので、マンガ自体には著作権が認められました。

ただその後、このマンガについてはアメリカの著作権局が著作権を取り消す手続きを進めていることが明らかになりました。これに対して、アーティストの弁護士は著作権を認めるよう求める文書を提出したそうです。今後、このマンガの著作権が維持されるかどうかが注目されます。

ぽな：
もう何が何だか……。法の解釈自体もまだはっきりとは決まっていないようなところがあるんですね。

出井：
ただ、ひとつ言えるのは、「説明の重要さ」だと思います。特にマンガのケースについては、ここまで人の関与したプロセスを説明できるのであれば、著作権が認められる可能性がある。逆に言うと、毎回ここまでやらなきゃいけないのか、という話になるんですが。

ぽな：
ああああ、めんどくさい……！ 今の先生のロジックで行くと、AIを使っているクリエイターは創作のプロセスを全部説明できるように、第三者に証明できるようにしておかないといけない、という話にもなりそうです。

出井：
おっしゃるとおりですね。まさに今後はそういった対応が求められてくると思います。従来のようにAIを使っていない作品であれば、今まで通り作業していてもいいのかもしれないですが、AIを積極的に活用していくのであれば、自分の作品をいかに保護するのかという点まで作業段階で考えておかないといけません。そこも論点ですね。

ぽな：
AIを使って作業している限り、程度の差はあれ、「この作品に著作権はありますか」という問題からは逃げられないという気がしてきました……。

出井：
これは理想論ですが、本当はAI単体で何か作品を作ってやっていきたい場合は、「AIで作った」ということが対外的にわかるような形で運用していくべきなんじゃないかと思います。

著作権で保護されるもの、保護されないものをきちんと棲み分けできるように。たとえば、AIマークみたいなものを作品につけられれば、誰でも「AIが作ったんだな」みたいなことがわかるじゃないですか。

ぽな：
AIマークがついていたら、著作権は誰のものでもないから、という話になりますしね。

出井：
まあその場合、AIマークをどの程度でつけるべきか、という新しい論点が生まれますけどね……。

ぽな：
……。またしても、「どこまで人が手を加えればいいか」問題が発生するわけですね。本当に難しいです。いずれにしても、作業工程のあり方からして、今後は変わっていくことになりそうですね。

これからAIと著作権はどう変わっていく？

出井：
AIについては新しい議論が多く、私自身も模索をしている状況です。現在は内閣府でも、めまぐるしく変化するAIの利活用状況を把握しようとしている段階にあります。

AIと著作権法に関する議論については、平成30年以降停滞している感がありましたが、Stable Diffusionの登場がトリガーとなってまた検討が始まるのではないかと思います。

ぽな：
今、国の方でも「Society5.0」ということで、AIやロボットを積極的に活用していく方針であると伺っています。まさに、今こうした状況を踏まえた新しいルールが作られつつある段階ということでしょうか？

出井：
AIに関しては著作権法以外でも、さまざまな分野で政策が検討されています。

ただ、どうしても法律だけじゃカバーしきれないところもありますので、ガイドラインを制定するとか、市場原理や新しい技術なども活用しながら望ましい方向に社会を作っていく必要があると思います。その際には、誰がどのような役割を担うべきかについて、事業者なども交えながらヒアリングしていくことも重要と考えます。

ぽな：
多くの人に話を聞くことが大切なんですね。

出井：
はい。政策を決める際には、一部のステークホルダーだけでなく、さまざまな業界のコンセンサスを取ることが重要なので。

AIであれば、クリエイターさんだけでなく、一定の制約を背負うことになるAIの技術者、開発者、事業者の話も聞いていく必要があります。

ぽな：
政策ってみんなのものですし、なるべく多くの人を納得させるためにも「AIで作品を作るなんてけしからん」という声ばかりを拾うわけにもいきませんよね……。

出井：
もちろん、「やめろ」「反対」という意見もわかるんですけど、AIの活用全てをやめちゃうとイノベーションがなくなっちゃいますからね……。

一方で、「技術の過渡期なんだから、馬車が自動車に変わっていくように、仕事自体が変わっていくのも当然だろう」という考え方もあります。ただ、それで本当にいいのか、というと議論の余地があると思います。そのあたりのバランスをどう取るかですよね。

ぽな：
まさに、現在進行形でいろんな問題が出てきて、また今後議論も動きうるというところですね。

AIはもう止められない。創作の現場はどう向き合うべきか

出井弁護士に伺って改めて気がつかされたのは、AIに関するさまざまな議論やトラブルは「これからの社会のあり方」に関する問題なんだということでした。

現在、AIで作った創作物については世界中で論議が巻き起こっている状況ですが、個人的には、AI技術の発展は止められないし、倫理的に一定の歯止めは必要とはいえ、止めてはいけないことのようにも思います。

よりよい未来の形を考えるためにも、今の自分の立場にとらわれすぎず、幅広い視野で物事を考えていく必要があるのではないかと、と感じました。

AIによって創作の現場がどう変わるのか。ひとりのクリエイターとして、引き続き注視していきたいと思います！

（執筆：紀村まり（ぽな）　編集：少年B　監修：骨董通り法律事務所　出井甫）