人工知能（ＡＩ）、ビッグデータ法務　著作権

【連載】生成AIと著作権～文化審議会著作権分科会法制度小委員会「考え方」を踏まえて～第5回

2024/04/11

柿沼太一

Contents

1 【連載】生成AIと著作権～文化審議会著作権分科会法制度小委員会「考え方」を踏まえて～
2 3　生成・利用段階
- 2.1 （1）検討の視点
- 2.2 （2）依拠

【連載】生成AIと著作権～文化審議会著作権分科会法制度小委員会「考え方」を踏まえて～

　本連載は、２０２４年３月１５日に文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」（以下「考え方」」といいます）が公表されたことを受けて、２０２４年４月時点でのAIと著作権に関する法的論点とその基本的な考え方について網羅的に整理したものです。
　本連載の作成にあたっては、文化庁の「考え方」をベースに、関連する各書籍や論文等を参照し、かつ私自身が実務で経験したことを最大限盛り込んでいます。
　特に「上野達弘・奥邨弘司（編）「AIと著作権」勁草書房、２０２４年」は、２０２４年時点の最新の論点について、理論的・実務的な観点から極めて詳細な検討がされている書籍であり、本連載作成に際しても大いに参考にしています。
　本連載では、網羅的、かつ最新の知見を盛り込みつつも、学説の対立の紹介は最小限にとどめて、できるだけ一般的な結論を記載するようにしています。
　もっとも、連載の中での「通説」「一般的」という表現は、あくまで筆者の個人的な見解ですので、そのつもりでお読み下さい。

■　連載目次
1　AIと著作権法に関する全体像
（1）　分析の視点
（2）「開発・学習」段階と「生成・利用」段階の意味
（3）　誰が、どのような行為に対して、どのような責任を負う可能性があるのか
（4）　開発・学習段階と生成・利用段階を分けて検討する意味
【以上第1回】
2　開発・学習段階
（1）分析の視点
（2）学習目的による制限
【以上第2回】
（3）学習対象による制限
ア　はじめに
イ　情報解析に活用できる形で整理したデータベースの著作物
ウ　海賊版等の権利侵害複製物
【以上第3回】
エ　学習禁止意思が付されている著作物
オ　学習を防止するための機械可読方法による技術的な措置が付されている著作物
カ　情報解析用DB著作物以外の著作物のうちライセンス市場が形成されている（すでにライセンス・販売されている）もの
（4）開発・学習段階での著作権侵害行為について権利者はどの範囲で差止請求等ができるか
（5）生成・利用段階における情報解析と30条の4
（6）30条の4と47条の5の役割分担
【以上第4回】
3　生成・利用段階
（1）検討の視点
（2）依拠
【以上第5回】
（3）行為主体性
（4）入力
（5）生成
（6）送信
（7）利用
【以上第6回】
4　結局、著作権者は誰に何を請求できるのか
5　AI開発者・AIサービス提供者・AI利用者は著作権侵害とならないために何をすれば良いのか
6　RAGと著作権侵害についての整理
7　AI生成物の著作物性について
8　日本著作権法の適用範囲

3　生成・利用段階

（1）検討の視点

　生成・利用段階における既存著作物の利用行為が著作権侵害に該当するかについて検討する際には2つのポイントがあります。

①　「入力」「生成」「（送信）」「利用」の各フェーズを明確に区別して検討する。
②　フェーズごとに「既存著作物の利用（侵害）主体」「依拠性」「類似性」「権利制限規定」「故意・過失」を検討する。

　1つめの「①　「入力¹ 」「生成」「（送信）」「利用」の各フェーズを明確に区別して検討する。」必要があるのは、それぞれの利用行為ごとに、②を検討する必要があるためです²。
　また、①で「（送信）」を検討対象に加えているのは、AIがクラウド上のサービスとして提供されているパターンを想定しているからです。

　上図は「AI開発者」が開発したAIを「AI利用者」に提供し、AI利用者が自らの手元で（ローカルで）当該AIを利用して「AI生成物の生成・利用」を行うパターンですが、下図のように、AIサービスがクラウド上のサービスとして提供されているパターンもあります。

　下図の場合、先ほどのAI利用者がAIをローカル環境で利用するパターンにおける「入力」「生成」「AI生成物の利用」に加えて「送信（AI開発者→AI利用者へのAI生成物の送信」」という行為を検討する必要があります。
　また、AI生成物の「生成」を物理的に誰が行っているかも、先ほどのローカル環境の場面とは異なります。
　以下、本連載においては、特に問題となることが多い「依拠」と「行為主体性」について検討した上で³、それを踏まえて「入力」「生成」「（送信）」「利用」の各フェーズごとに「既存著作物の利用（侵害）主体」「依拠性」「類似性」「権利制限規定」「故意・過失」について検討します。

（2）依拠

ア　依拠がどのような場面で問題になるのか

　利用（開発・学習や生成・利用）の対象となった既存著作物と同一・類似のAI生成物が生成された場合に、著作権侵害の要件としての「依拠性」が認められるかについては激しい議論がされています。
　もっとも「依拠性」については、著作物の利用行為ごとに個別に検討する必要があります⁴。
　そして、AIの特殊性を踏まえて「依拠性」について激しい議論がされているのは、「生成・利用」段階における各行為のうち、「生成」行為です。それ以外の「入力」「（送信）」「利用」の依拠性については、AI特有の問題は特にありません。
　そのため、以下の依拠性に関する議論は「生成」に関するものであることに注意してください。
　そして「生成」において「依拠性」が問題となる典型的なパターンは以下の3つです。

　パターン1は、AI利用者が既存著作物をAIに入力し、既存著作物と同一・類似のAI生成物を生成しているパターンです。AI利用者自身が既存著作物をAIに入力していることから、AI利用者が既存著作物の存在を認識しつつ、それと同一・類似のAI生成物を生成していることになります。

　パターン2は、AI利用者が生成AIに何らかの入力・指示をしたところ、学習用データに含まれていない既存著作物と同一・類似のAI生成物が生成されたパターンです。
　AI利用者自身が既存著作物と同一・類似のAI生成物を生成しようとして生成している場合と、そのような意図や努力がない場合に分かれます。

　パターン3は、AI利用者が生成AIに何らかの入力・指示をしたところ、学習用データに含まれている既存著作物と同一・類似のAI生成物が生成されたパターンです。
　AI利用者自身が既存著作物と同一・類似のAI生成物を生成しようとして生成している場合（あまり想定されませんが）と、そのような意図や努力がない場合に分かれます。パターン2との相違点は、学習用データに既存著作物が含まれていることです。

イ　どのような場合に依拠が認められるか

　結論から述べると、「考え方」３３頁～３４頁の記載を踏まえると、AI利用者が生成AIを利用して既存著作物と同一・類似のAI生成物を生成した場合に依拠性が認められるか、は以下のフローチャートに従って判断すべきと考えます。このフローチャートは、「AIと著作権」・奥邨先生・１１８頁のフローチャートをベースに、「考え方」３３頁～３４頁をもとに筆者が作成したものです。

①　AI利用者が既存著作物を認識しつつ、当該既存著作物と同一・類似のAI生成物を生成する意図の下にAIを操作している場合（操作者による依拠）

　この場合（奥邨先生はこの場合を「操作者による依拠」と呼ぶ（「AIと著作権」１０９頁））は、AI利用者がAIを単なるツールとして利用して既存著作物と同一・類似のAI生成物を生成していることから、当然のことながら依拠性は認められると考えます。
　この点について、考え方33頁には「① AI 利用者が既存の著作物を認識していたと認められる場合」との記載がありますが、「単にAI利用者が既存の著作物を認識している（知っている）」だけで、当該既存著作物に似せる意図がない場合や、似せる努力（選択含む）を全くしてない場合に依拠性が認められるかについては、学説上争いがあります。
　たとえば、ミッキーマウスを知っている人が、「なにかのキャラを出して欲しい」という抽象的なプロンプトを入れたところ、極めて低い確率ですが1発でミッキーマウスのキャラクターが生成された場合（多分に教室設例的ですが。。。。）については、独自創作だとして当該生成行為について依拠性を否定する考え方があるのです⁵。
　もっとも、この考え方にたつ論者も、「AI利用者が既存著作物を認識しつつ、多数回生成を試行して、その中から同一・類似物を選択した場合」「AI利用者が既存著作物を認識しつつ、同一・類似物を生成するために詳細な指示をした場合」には依拠性を認めてよいとします⁶。
　また、「考え方」33頁が「① AI 利用者が既存の著作物を認識していたと認められる場合」の例として挙げている以下の例は、単に「AI利用者が既存の著作物を認識している（知っている）」場合ではなく、「AI利用者が既存著作物を認識しつつ、当該既存著作物と同一・類似のAI生成物を生成する意図の下にAIを操作している」場合ではないかと思われます⁷。

（例）Image to Image（画像を生成 AI に指示として入力し、生成物として画像を得る行為）のように、既存の著作物そのものを入力する場合や、既存の著作物の題号などの特定の固有名詞を入力する場合

　以上のことから「操作者による依拠」として、「AI利用者が既存著作物を認識しつつ、当該既存著作物と同一・類似のAI生成物を生成する意図の下にAIを操作している場合」には依拠性が認められると考えます。
　これを前提とすると、先ほどのパターン1は当然依拠性（操作者による依拠）が認められますし、パターン2においても「AI利用者が既存著作物を認識しつつ、当該既存著作物と同一・類似のAI生成物を生成する意図の下にAIを操作している」といえるのであれば、学習用データに既存著作物が含まれていなくとも、依拠性（操作者による依拠）を満たすこととなります。
　一方、パターン2において、そのような意図・操作がなければ、独自創作として依拠性は存在しないことになります。

②　AI利用者が既存著作物を認識していなかった（当然のことながらAI 学習用データに当該著作物が含まれることも認識していない）が、学習用データに当該著作物が含まれる場合

　この場合（奥邨先生はこの問題を「AIによる依拠」と呼ぶ（「AIと著作権」109頁））に依拠が認められるかどうかにおいて、検討しなければならない問題点は2つあります。
　1つは「①学習用データに当該著作物が含まれていることをAI利用者が認識していない場合でも依拠性を認めて良いのか」という問題です。
　もう1つは「②学習用データに当該著作物が含まれていさえすれば、AIモデル内でどのような形でそれが保持・利用されていても依拠性を認めてよいか」という問題です⁸。
（ⅰ）　学習用データに当該著作物が含まれていることをAI利用者が認識していない場合でも依拠性を認めて良いのか
　この点については、まず、AIとは離れて、そもそもどのような場合に依拠性が認められるかが問題となります。
　依拠性を認めるに際して、元の著作物に関する被疑侵害者の認識が必要とする立場（主観説）と、そのような認識がなくとも既存の著作物の利用が作成に寄与したという客観的な事実があればよいとする立場（客観説）が対立しています。
　もっとも生成AIにおける依拠性の論点においては、学習用データに当該著作物が含まれていることをAI利用者が認識していない場合でも、依拠性を認めてよいとする立場が主流のように思われます⁹。　
（ⅱ）　学習用データに当該著作物が含まれていさえすれば、AIモデル内でどのような形でそれが保持・利用されていても依拠性を認めてよいか
　この点については、主に2つの考え方があります。
　1つは、「学習用データに既存著作物が含まれていさえすれば、AIモデル内でどのような形でそれが保持・利用されていても依拠性を認める説」（全面肯定説）です。
　もう1つは「学習用データに既存著作物が含まれていても、AIモデル内に保持・利用されているのが当該既存著作物の表現部分である場合に限って依拠性を認める説」（限定肯定説）¹⁰です。
　両説の違いを図示すると以下のとおりとなります。

　両説とも学習対象著作物には「アイデア」部分と「表現」部分が含まれていることを前提にします。
　そのうえで、全面肯定説は、学習用データに既存著作物（学習対象著作物）が含まれていれば、AIモデル内に保持されているのが、学習対象著作物の「アイデア＋表現」であろうと（上の図）、「アイデア」のみであろうと（下の図）依拠性を認める考え方です¹¹。
　一方、限定肯定説は、学習用データに既存著作物（学習対象著作物）が含まれていても、AIモデル内に保持されているのが学習対象著作物の「アイデア」のみ（下の図）であれば依拠性を否定する考え方です。
　つまり、AIモデル内に保持されているのが学習対象著作物の「アイデア+表現」の場合（上の図の場合）は両説の帰結に違いはありません。両説の結論が変わってくるのは、AIモデル内に保持されているのが学習対象著作物の「アイデア」のみ（下の図）の場合です。
　学説的には、どちらかというと全面肯定説が多いように思われますが¹² 、「考え方」３４頁には、この点に関して以下の記載があります。

② AI 利用者が既存の著作物を認識していなかったが、AI 学習用データに当該著作物が含まれる場合
✓ AI 利用者が既存の著作物（その表現内容）を認識していなかったが、当該生成 AI の開発・学習段階で当該著作物を学習していた場合については、客観的に当該著作物へのアクセスがあったと認められることから、当該生成 AI を利用し、当該著作物に類似した生成物が生成された場合は、通常、依拠性があったと推認され、AI 利用者による著作権侵害になりうると考えられる。

✓ ただし、当該生成 AI について、開発・学習段階において学習に用いられた著作物の創作的表現が、生成・利用段階において生成されることはないといえるような状態が技術的に担保されているといえる場合（＊）もあり得る。このような状態が技術的に担保されていること等の事情から、当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないと法的に評価できる場合には、AI 利用者において当該評価を基礎づける事情を主張することにより、当該生成 AI の開発・学習段階で既存の著作物を学習していた場合であっても、依拠性がないと判断される場合はあり得ると考えられる。

（＊）
具体的には、学習に用いられた著作物と創作的表現が共通した生成物が出力されないよう出力段階においてフィルタリングを行う措置が取られている場合や、当該生成 AI の全体の仕組み等に基づき、学習に用いられた著作物の創作的表現が生成・利用段階において生成されないことが合理的に説明可能な場合などが想定される。

　この記載を前提とすると、「考え方」に示されているのは、奥邨先生が主張される限定肯定説そのものではないかと思われます。
　同記載は、学習対象に既存著作物が含まれており、当該既存著作物に類似した生成物が生成された場合には通常依拠性があったと推認されるとする一方で「当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないと法的に評価できる場合」には、依拠性が否定される可能性があるとしているからです。
　私も、奥邨先生がおっしゃるように、表現・アイデア二分論からすると、むしろ限定肯定説の方が筋が通っているのではないかと思われること、プログラム開発におけるクリーンルーム方式では依拠性が否定されている¹³ことから、「考え方」に示されている限定肯定説が妥当だと考えます。

　以上を前提にした依拠性判断についてのフローチャートが下記のとおりとなります（再掲）。

ウ　実際に権利者は依拠性を証明するために何をすれば良いのか

　もっとも、「依拠性」について、以上のようなフローチャートを元に判断するにしても、実際には「AI利用者の認識・意図」（操作者による依拠）や「学習用データセットの中に既存著作物が含まれているか」「当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないと法的に評価できるか」（AIによる依拠）について、当事者が直接立証することは非常に難しいといえます。
　「依拠性」については本来著作権者に主張立証責任がありますが、既存の判例・裁判例においては、被疑侵害者の既存著作物へのアクセス可能性、すなわち既存の著作物に接する機会があったことや、類似性の程度の高さ等の間接事実により依拠が推認され、被疑侵害者（被告）がそれを覆せない限り、依拠が肯定されてきました¹⁴。
　それを前提とすると、実際に権利者が依拠性を証明するためには、以下のような主張立証を行うことになると思われます。

①　操作者による依拠

　操作者による依拠については、従来の著作権侵害訴訟と同様となります。
　すなわち、権利者としては、既存著作物が世の中によく知られている著作物であること、被疑侵害者において既存著作物へのアクセス可能性があったことや、生成物に既存著作物との高度な類似性があること等を立証すれば、依拠性があるとの推認を得ることができると思われます¹⁵。

②　AIによる依拠

（ⅰ）　主張立証責任の分配
　AIによる依拠に関する主張立証責任の分配としては、公平の見地から、権利者が「学習用データセットに既存著作物が含まれていること」を主張立証し、それが直接立証される、あるいは間接事実から推認される場合に、被疑侵害者がそれに対する反論として「当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないこと」を主張立証すべきと考えます。
（ⅱ）　「学習用データセットに既存著作物が含まれていること」の主張立証（権利者の立証）
　権利者は、まず「学習用データセットに既存著作物が含まれていること」を直接立証することが考えられます。
　典型的には、AI生成物の生成に用いられたAIモデルの学習用データセットの開示をAI開発者に対して求めたうえで、それにより直接立証する方法です。
　具体的には、法第114 条の3（書類の提出等）や、民事訴訟法上の文書提出命令（同法第 223 条第１項）、文書送付嘱託（同法第 226 条）等に基づく開示請求が考えられます¹⁶。
　もっとも、AI開発者が不明、あるいは連絡方法が不明等の理由により、学習用データセットの開示請求が難しい場合もあると思われます。そのような場合は間接事実により依拠性を推認させることとなります。
　「学習用データセットに既存著作物が含まれていること」を推認させる具体的な間接事実としては、①　既存著作物が世の中によく知られている著作物であること、②当該既存著作物とAI生成物の高度な類似性、③少ない試行回数で類似度が高い表現が生成されることなどが考えられます¹⁷。

（ⅲ）　当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないことの主張立証（被疑侵害者の立証）
　権利者側が「学習用データセットに既存著作物が含まれていること」を直接、あるいは間接事実により推認させた場合、被疑侵害者（被告）側としては「当該生成 AI において、学習に用いられた著作物の創作的表現が、生成・利用段階において出力される状態となっていないこと」を主張立証しなければなりません。
　このような主張立証はかなり難しいのではないかと思われますが¹⁸ 、「考え方」は、被疑侵害社側が立証すべき間接事実の例として以下の2点を紹介しています（「考え方」３４頁）。
　いずれかを被疑侵害者側が立証すると依拠性が否定される可能性があることになりますから、これは、かなり踏み込んだ記載ではないかと思われます。

①　学習に用いられた著作物と創作的表現が共通した生成物が出力されないよう出力段階においてフィルタリングを行う措置が取られている場合
②　当該生成 AI の全体の仕組み等に基づき、学習に用いられた著作物の創作的表現が生成・利用段階において生成されないことが合理的に説明可能な場合

　②が具体的にどのような場合を指しているかは明確ではありませんが、これは技術に依存する部分ではないかと思われます。
　例えば現在の画像生成AIは拡散モデルの技術を利用していることが多いのですが、拡散モデルにおいては、「画像」と「当該画像を説明するテキスト（文章）」を組み合わせて学習させ、それにより、生成時点において「入力されたプロンプト（文章）に近似した画像」を生成する仕組みが採用されています。
　つまり学習時における「画像」と「当該画像を説明するテキスト（文章）」を組み合わせた学習のさせ方次第で、「特定のプロンプト」を入れると「特定の画像」を狙って生成させることができることになります。
　たとえば「ピカチュウ」という単語と「ピカチュウ」の様々な大量の画像を組み合わせて学習させた場合、「ピカチュウ」という単語と「ピカチュウ」の画像（の創作的表現）は極めて強く結合して（密結合）学習されます。
　これは「ピカチュウ」という単語が造語であり、あの「ピカチュウ」の画像としてか結びついていないからです。
　学習時に「ピカチュウ」という単語と「ピカチュウ」の画像（の創作的表現）が密結合状態で学習されると、生成時に「ピカチュウ」というプロンプトを入力すると、極めて高い確率で「ピカチュウ」の画像が生成されます。
　一方、同じく「ピカチュウ」の画像を学習させる場合でも「モンスター・黄色い・かわいい」という単語とセットで学習させると、「モンスター・黄色い・かわいい」という単語とピカチュウの画像は緩くしか結合せず（疎結合）学習されます。これは「モンスター・黄色い・かわいい」が一般的な名詞や形容詞であり、他の画像とも多数組み合わされているからです¹⁹。
　このように疎結合な学習がなされた場合、生成時に「ピカチュウ」というプロンプトを入力しても、「ピカチュウ」の画像が生成されることはまず考えられません。「ピカチュウ」という単語はそもそも学習に用いられていない単語だからです。
　一方、生成時に「モンスター・黄色い・かわいい」というプロンプトを入力しても「ピカチュウ」の画像が生成されることも、まず考えられません。「モンスター」「黄色い」「かわいい」という単語は学習時に他の画像ともタグ付けして用いられているため、特定の画像と密結合状態にないからです。
　このように、学習のさせ方によっては、「考え方」にいう「当該生成 AI の全体の仕組み等に基づき、学習に用いられた著作物の創作的表現が生成・利用段階において生成されないことが合理的に説明可能な場合」がありうると考えます。
（ⅳ）まとめ
　以上述べたように、操作者による依拠にせよ、AIによる依拠にせよ、依拠性を直接立証することは困難なことが多いため、実際の訴訟では、いずれが間接事実を証明できるかが勝負の分かれ目になるのではないかと思われます。
　操作者による依拠と、AIによる依拠に関する原告と被告の主張立証構造を整理したのが以下の図です。

【第6回記事】へ続く

【脚注】

1
ここでの「入力」には「入力」のための既存著作物の収集や蓄積も含みます。
2
「AIと著作権」横山先生・136頁、「考え方」35頁「オ　利用行為が行われた場面ごとの判断について」参照
3
「類似性」は認められることを前提とする。なお「類似性」の判断基準にはAI特有の問題はないと考える（「考え方」３３頁）。
4
「AIと著作権法」座談会・愛知先生・２８３頁
5
「AIと著作権」座談会で愛知先生は「単にそのAI利用者が既存の著作物を知っています（中略）というときに，なんらAIがアクセスしていない（注：学習用データに既存著作物が含まれていないこと）というときに，果たして依拠を肯定できるのかというのは，ちょっと疑問が残るところではあります」とする（277頁）、また、同じく横山先生もこのケースで依拠性を否定する（281頁）。
6
「AIと著作権」愛知先生・280頁
7
「AIと著作権」座談会268頁～285頁では、この論点を巡って激しく議論がされている。もっとも奥邨先生も「AI利用者が既存の著作物を認識している（知っている）」だけで依拠性を肯定しているわけではないように思われる（「AIを使って，意図的に似たものを出力した，そしてそれを世間に出していくという場合には（出さなくてもいいですけども）（Ｐ268)、「Bが描いたものを、似ているとわかって世に出せば」（Ｐ278）「ドラえもんとインプットしなくても，未来から来た猫型ロボットと入力して、 100万回試してそのうちの1回がドラえもんでそれを世に出すというのでも、操作者に依拠を認めてよいと思っています」（Ｐ280）「私としては，詳しい指示をしなくても，操作者が見聞きした著作物に似てるものがAIから出力されて，操作者は似ていることが分かった上でそれを選ぶのならば，操作者による依拠ありだと思うんです．」（Ｐ281））。
8
「AIと著作権」奥邨先生・114頁
9
前田健「生成AIの利用が著作権侵害となる場合」（法学教室⽣成№５２３・脚注6）、「AIと著作権」奥邨先生・114頁、同120頁、同123頁
10
「AIと著作権法」奥邨先生・112頁、同120頁
11
ただし、厳密には全面肯定説は、AIモデル内に保持されているのは常に「アイデア+表現」であり、下図のような場合は存在しないことを前提としている。
12
「AIと著作権法」座談会271頁～
13
「AIと著作権法」奥邨先生121頁～
14
「AIと著作権法」124頁，「考え方」３３頁～３４頁
15
「考え方」３４頁、「AIと著作権法」奥邨先生・１２５頁脚注４１
16
「考え方」３８頁
17
「AIと著作権」奥邨先生・１２５頁。なお、どのような間接事実によって「AIによる依拠」を推認させるに十分かという点については、依拠性に関する全面肯定説をとるか部分的肯定説をとるかによって異なりえる。
18
「AIと著作権法」奥邨先生１２５頁
19
「AIと著作権法」座談会・谷川先生発言・２９８頁

知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】

ブログ/ BLOG