内閣府知的財産戦略推進事務局より募集がありました「AI時代における知的財産権」に対して、NAFCAが提出したパブリックコメントを公開します。
第１ I．生成ＡＩと知財をめぐる懸念・リスクへの対応等について
１ 生成ＡＩと著作権の関係について、どのように考えるか
(1) 生成ＡＩの学習に用いられる著作物の著作権について
生成ＡＩが絵、文章、音声、映像などを生成するためには、人間が創作した著作物を学習用データとして利用する必要があります。
現在、わが国では著作権法３０条の４第２号に定める「情報解析」については、その必要と認められる限度において、いずれの方法によるかを問わず、原則として自由に利用することができることとされています。
そして、生成ＡＩ開発・学習段階における学習用データの収集・加工・入力等は、この「情報解析」に該当すると考えられ、実際に様々な著作物や実演が生成ＡＩの学習に供されています。
このように、利用主体や利用目的（営利・非営利の別を含みます。）による限定を付すことなく、機械学習における著作物や実演の利用を認める状態は世界的にも珍しく、日本は「機械学習パラダイス」との指摘を受けています。
例えば、欧州連合（ＥＵ）ではＤＳＭ指令において、研究組織及び文化遺産機関を主体とする学術研究目的での利用については権利者の許諾なく文章、画像等のデジタル形式の情報に対する自動的な情報分析を可としていますが、主体や目的を限定しない場合には、権利者による複製権の留保が可能とされているなど、生成ＡＩの学習を行おうとする者の利益と著作権者（及び実演家）の不利益の調整を試みています。
たしかに、著作権法３０条の４にも当該利害調整のためにただし書が存在しており、「当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合」については許諾なく情報解析に供することができないこととされています。
しかし、文化庁著作権課作成に係る「デジタル化・ネットワーク化の進展に対応した柔軟な権利制限規定に関する基本的な考え方（著作権法第３０条の４、第４７条の４及び第４７条の５関係）」（令和元年１０月２４日）９頁では「例えば、大量の情報を容易に情報解析に活用できる形で整理したデータベースの著作物が販売されている場合に、当該データベースを情報解析目的で複製等する行為は、当該データベースの販売に関する市場と衝突するものとして『著作権者の利益を不当に害することとなる場合』に該当するものと考えられる」と述べられており、それ以外にどのような場合がただし書に該当するのか明らかではありません。
その点を措くとしても、現在の実演家を含むクリエイターの置かれた客観的状況に鑑みれば、例えば声優や画家（イラストレーターやアニメーター等を含みます。）が、自身の演技、歌唱、絵などを元にした学習用データセットを準備して販売しておくことはほとんど不可能であり、著作権法３０条の４ただし書は、生成ＡＩの学習を行おうとする者の利益と著作権者（及び実演家）の不利益の調整弁として機能していないと考えます。
以上のように、利用主体や利用目的（営利・非営利の別を含みます。）による限定を付すことなく、機械学習における著作物や実演の利用を認める状態は権利者にとって健全だとは言い難く、少なくともオプトアウトの権利（自らの著作物を学習対象から外すように申請し、それが受理された場合には学習済みモデルからの削除を義務付ける権利。脚注１）が認められるべきと考えます 。
(２)生成ＡＩが出力したものの著作物性について
簡易な文章やイメージ画像を入力するだけで出力されるAI生成物に著作権を与えることには、極めて慎重な検討が必要であると考えています。
著作権法２条１項１号によれば、著作物とは「思想又は感情を創作的に表現したものであつて、文芸、学術、美術又は音楽の範囲に属するもの」であり、生成ＡＩが自律的に生成したＡＩ生成物は「思想又は感情を創作的に表現した」ものではありません。
人間が生成ＡＩを用いて作成したＡＩ生成物については、「創作的意図」及び「創作的寄与」が認められる場合にはＡＩ生成物にも著作物性が認められ、ＡＩ利用者が著作者になるとの指摘がありますが（知的財産戦略本部 検証・評価・企画委員会 新たな情報材検討委員会「新たな情報材検討委員会報告書」（平成２９年３月））、いかなる場合に「創作的寄与」が認められるのか明らかではなく、予測可能性がありません。
また、「創作的寄与」が認められない程度の指示しか与えていない場合（すなわち、ＡＩ利用者が著作者と評価できない場合）に、ＡＩ利用者が自らの作品であると偽って公表することについては、何ら規制がありません。
そのため、人間が生み出した作品であるにもかかわらず、生成ＡＩにより生成したものであると周囲から論難され、いわゆる炎上を引き起こすケースも増加しており、個人の精神活動に基づく古典的な創作を行うクリエイターの活動が脅かされる事態も生じています。
このような問題に対処するべく、仮に一定の場合にAI生成物にも著作物性を認めるのであれば、速やかに行政によるガイドラインなどによって、「創作的寄与」の具体例を多数示すなど、著作物性が認められる場合の明確化が必要と考えます。
また、著作権法１２１条を改正するなどによる、ＡＩ生成物を自らの創作物として示した場合の罰則規定の創設やＡＩ生成物であるの明示を義務付けるなど、ＡＩ生成物と個人の精神活動に基づく古典的な創作に基づき生み出された作品を明確に峻別できる施策を行い、クリエイターの権利・利益が十分に保護されるような仕組みが必要であると考えます。
(３)小括
ＡＩ技術には非常に素晴らしい面もありますが、一方で著作権者や実演家の権利を脅かす面もあるといえます。
私たちが実施したアンケートでも「便利ならAIを活用したいが、クリエイターの権利が脅かされることについては懸念がある」という声が多い印象でした。
ＡＩが人間の良きパートナーとなる日のためにも、生成ＡＩには一定の規制が必要だと考えます。
２ 生成ＡＩと著作権以外の知的財産法との関係について、どのように考えるか
生成ＡＩ問題に端を発するハリウッドでのストライキが注目されていますが、生成ＡＩ技術による権利侵害はアニメ業界にとっても大きな脅威です。
日本のアニメ制作では声優が特別な地位を占めますが、声優の声をＡＩに勝手に学習させてＡＩボイスを使って不名誉な発言をさせたり、勝手にボイスチェンジャーを販売されたりする事例がすでに問題化しています。
こうした問題に対処するため、私たちは「声の肖像権」あるいは、声の商標権、声の財産権が法的に体系化されることを強く望んでいます、
また、商標については、パロディ商標が無限に生成されることを危惧しています。
特にアニメのキャラクターやロボット、アイテムなどのパロディ商標について、生成ＡＩによって半ば無限に作ることができることを強く懸念します。
３ 生成ＡＩに係る知的財産権のリスク回避等の観点から、技術による対応について、どのように考えるか
第１，１でも述べたとおり、絵、文章、写真、音声、映像など全ての著作物にオプトアウトの権利を認めるべきです。
オプトアウトの権利を保障するため、国には技術開発も含めて全力で取り組むことを望みます。例えばイラストや音声、映像などに関してはウォーターマークを付加するなどの方法を業界、あるいは世界統一規格として準備開発し、それらを適用することによって著作権者をはじめとする権利者の利益を守る必要があると考えます。
この点に関し、例えば、ＤＳＭ指令における権利留保の表示は、ネット上のコンテンツの場合、機械可読式であることが原則となっていますが、この表示は正規サイトでなければ機能せず、海賊版サイトにアップロードされてしまった場合には権利留保の表示はないし、正規サイトの権利留保の表示が影響することもないという問題があると一般的に指摘されています。また、ロボットテキストなども同様の問題が指摘されています。これらの困難性を回避するための技術的な議論を、国内外の有識者を踏まえて検討する必要があると考えます。
また学習元として読み込まれたデータにどのようなものが存在していたのか記録を取ることも重要です。現在はその部分がブラックボックスとなっているため、自身の著作物が読み込まれたのかどうかを確認し証明することが難しく、そのことが著作権侵害立証における「依拠性」の証明困難性を招いています。
第１，１でも述べたとおり、現在の著作権法３０条の４は、学習・開発段階ではなく、生成AIを利用して生成されたＡＩ生成物について、権利者が権利行使できることをもって、権利者の保護を考えているように見受けられますが、生成ＡＩの学習済みデータがブラックボックス化されると、ＡＩによる依拠の立証が事実上困難になり、結局、生成ＡＩ利用段階での権利行使もままならない結果を招来することになります。
これでは権利者の保護として不十分です。やったもん勝ち、やられた方は泣き寝入りという事態はあってはならないことだと考えます。
４ 生成ＡＩに関し、クリエイター等への収益還元の在り方について、どのように考えるか
私たちは、生成ＡＩの開発・学習・利用を通じて既存の著作物が利用された場合に、クリエイター等に対して公平かつ公正な収益還元が行われる未来の実現は極めて困難と感じています。
例えばドラえもんの頭、ガンダムの体、孫悟空（野沢雅子氏）の声を持つキャラクターをＡＩが生成した場合に“適切な収益還元さえ行えば、これを自由に利用できると考えても良い”という方向に議論が進むことは望んでいません。
仮に１００のキャラクターがコラージュされた怪物が多くの収益を上げたとしても、その収益をそれぞれのキャラクターを生んだクリエイターが分け合うという仕組みには違和感が拭えません。
“収益還元をすれば全てのクリエイターが納得するはずだ”という考え方に対して、私たちは明確にＮＯと言いたいと思います。
しかしながら、著作権者への収益還元を全く無視した現状には強い危機感を覚えます。収益還元されるなら自身の著作物を使用しても良いと考えるクリエイターについては、そのためのシステムを作る必要があると考えます。
例えば日本俳優連合では登録者の過去の作品が二次利用された際の二次利用料が個人へ分配されるシステムが確立されています。音楽に関するＪＡＳＲＡＣについても同様のシステムが確立されていますが、これと同様にＡＩ利用を許諾した著作権者が登録する機構を作成し、そこに登録された著作物を機械学習する際、あるいは学習された結果が商用に利用された際に何らかの手数料が支払われるようにする仕組みを作ることも一考するべきだと考えます。
すなわち、収益を還元すればいかなる場合でも利用を認めなければならないという仕組みを採用することはせずに、作品を創作したクリエイターの思想や感情に対する十分な配慮が必要であるが、そのことは権利者への収益還元が不要であることを意味しません。この点に留意しつつ、権利者への適切な収益分配の議論がなされることを期待します。
最後に、生成ＡＩによる収益の一部が、しかるべき公共機関を通して、創作に励むクリエーターの育成支援にも使われることを願っています。
５ ＡＩ学習用データセットとしてのデジタルアーカイブ整備について、どのように考えるか
デジタルアーカイブは、あらゆる分野でもっと活用、整備されるべきものだと考えます。
それらをＡＩ学習用のデータセットとして使うかどうかは、権利者の許諾に委ねるべきと考えます。
私たちは、ＡＩ学習用データセットとして利用するためにデジタルアーカイブを整備するのではなく、まずは人間が学習・利用し、日本の誇るべき技術の承継のためにデジタルアーカイブの整備を進める必要があると考えています。
人間が学習するために準備したデジタルアーカイブを後からＡＩが学習するためのデジタルアーカイブに転用することは技術的に可能なはずであり、かつ、人間の技術承継よりもＡＩ学習を優先させなければならない事情は存在しないと考えます。
特にアニメ分野では、２０００年代初頭まで使われていたセル画が大量に破棄されてしまっています。世界的に見ても、手書きで一枚一枚書かれた日本のセル画は貴重な文化財であり、破棄されることはあってはならないことです。
海外への流出も進んでおり、早急に保護する必要があるはずです。また、作画等の技術承継の観点でも、様々な作品に触れて、第一線で活躍してきたクリエイターの技術から学ぶことに大きな意味があります。
日本人が日本で作った文化財であるにもかかわらず、日本人が接することができなくなるというのは、国の財産や明るい未来を手放すことと同じと考えます。是非ともＡＩ学習用データセットの議論の前に、デジタルアーカイブの早期整備を進めていただきたいと考えています。
６ ディープフェイクについて、知的財産法の観点から、どのように考えるか
知的財産基本法３条が「知的財産の創造、保護及び活用に関する施策の推進は、創造力の豊かな人材が育成され、その創造力が十分に発揮され、技術革新の進展にも対応した知的財産の国内及び国外における迅速かつ適正な保護が図られ、並びに経済社会において知的財産が積極的に活用されつつ、その価値が最大限に発揮されるために必要な環境の整備を行うことにより、広く国民が知的財産の恵沢を享受できる社会を実現するとともに、将来にわたり新たな知的財産の創造がなされる基盤を確立し、もって国民経済の健全な発展及び豊かな文化の創造に寄与するものとなることを旨として、行われなければならない。」と規定しているとおり、知的財産の創造、保護、活用に関する施策を適切に推進することは、芸術などの知的財産保護につながります。すなわち素晴らしい知的財産に触れることで、人々の豊かな感性は磨かれるのです。
人は、人の息づいた鼓動を感じられる作品に、より深く心を動かされるものと理解しています。
AIは人間と異なり、呼吸をしていません。呼吸をしているような音声をつくりだすことはできても、それは人間の呼吸を伴う「声」とは全くの別物ではないでしょうか。
私たちは、多くのＡＩ生成物と同様に、ディープフェイクが国民の感性の低下をもたらすこと、それが文化芸術の衰退につながることを何より危惧しています。
人工的に生成されたディープフェイクが蔓延し、芸術から人の息遣いが失われていけば、文化は衰退していくのではないでしょうか。
犯罪への悪用の懸念はもとより、人間の文化を守るためにこそ、ディープフェイクをはじめとしたＡＩ生成物は使用の規制が必要だと考えます。
７ 社会への発信等の在り方について、どのように考えるか
広く一般の人たちへの著作権に関する周知が足りていないように感じます。
著作権は身近にある権利・法律ですが、非常に複雑です。知らずに著作権法違反を犯している、ということも往々にしてあり得ます。
例えば現在一般向けに開放されている生成ＡＩ技術を使って、個人が楽しむためだけに特定の人物の作品を追加学習させてその作品に類似したものを出力したとしても、個人利用であれば問題はないでしょう。
しかしそれをＳＮＳに送信すれば、私的複製の例外規定は使えませんので、著作権法違反になる可能性を大いに秘めているはずです。この区別を一般の国民が正しくできているとは思えません。
実際に、少なくない企業が、商用アニメーションを生成ＡＩで作ることには大きなリスクがあると判断していると言われています。その様子は私たち日本アニメフィルム文化連盟が本年６月に行ったＡＩ関連の意識調査アンケートの結果にも表れています。（参考：https://nafca.jp/survey01/）
また、「自身の著作物に類似したＡＩ生成物が公衆送信／商用利用／販売されている」といった事例も多く見られ、多くのクリエイターがＳＮＳなどで被害を訴えています。
こうした事例では、現在の著作権法で考えても違法と見なされるケースが多く含まれているように見えます。
著作権に関する周知が足りていない状況が、クリエイターを疲弊させ、わが国の文化を萎縮させようとしています。
生成ＡＩ技術によって作品の模倣・盗用が手軽にできるようになったいま、著作権についての知識と遵法意識の啓蒙は急務です。
かつて映画の海賊版に対する認識について、業界と行政が一大キャンペーンを行って遵法意識を向上させたように、生成ＡＩに関連する著作権法についても、クリエイターと行政がしっかりと連携し、広く強く発信を行う必要があると考えます。
また、法律論とは別に、生成ＡＩとの付き合い方に関する議論は生命倫理にも繋がる話であることを、行政が積極的に啓蒙するべきだと考えます。
AI技術によって、生前のサンプリングデータがあれば当該人物の死後であっても新しい「発言」や「表現」が可能になりました。これは「生」とは何か、生きている「人間の尊厳」とは何かを問う問題に他なりません。この点に関しても幅広い議論を求めます。
第２ ３．その他
クリエイターの作品は、いずれも創作者の鍛錬の結果として創出されたものです。
これら努力の賜物を著作権への配慮なく読み込まれ、鍛錬の成果を材料としてＡＩ生成物を好き放題に作られている状態を今後も許してしまえば、自らの才能を開花させるために鍛錬する、あるいはまだ誰も見たことがないものを作ろうと努力する人たちが減ってしまうのではないでしょうか。
それは文化を壊すことと同義です。
著作権法は「文化の発展」のために制定されているもののはずです。
日本のアニメは、ロボット（ＡＩ）と共存する未来を描いてきました。
人間による文化を発展させるために機械学習、ＡＩ技術とどのように付き合っていくかということを、一度立ち止まり、多くの当事者たち、多くのクリエイターたちの声を聞きながら、再度ご検討いただきたいと強く願います。
以上
(脚注１)
なお、ここで述べるオプトアウトの権利は、ＤＳＭ指令における複製権の留保とは異なるものとして提言しているものであることにご留意ください。
ＤＳＭ指令は、学術研究目的以外のテキストデータマイニングの場合に、その過程で行われる複製に対する権利（主に複製権）の制限について権利を留保することを述べるのみであり、複製を伴わない機械学習については影響がなく、仮に複製が伴う場合も学習済みモデルからの削除権が認められているわけではないものと理解しています。
しかし、これでは権利者の意に反してAI生成物が生成され続けることを容認し続け、権利者に個別の権利行使の負担を強いることになるところ、生成ＡＩが瞬時に多数の生成物を生成できることに鑑みれば、権利者が全てのＡＩ生成物に個別の権利行使をすることは事実上不可能ですから、権利者の保護としては不十分と考えるからです。
