内閣府より募集がありました「人工知能基本計画（素案）に関する御意見の募集について」に対して、NAFCAより提出したパブリックコメントを公開します。
概要や意見募集対象などはこちらから
※リンク先「４. 意見募集対象」の「人工知能基本計画（素案）」PDFを参照してください
【全般への意見】
本素案において、骨子段階から示されていたコンテンツホルダーへの対価還元の方向性に加え、ディープフェイク、肖像権・著作権等の侵害リスク、知的財産権侵害に関する相談体制等がより具体的に明記されたことを歓迎します。
しかし、文化・芸術分野における生成AIの影響は、一般的な権利侵害にとどまりません。
声、演技、作風、キャラクター、翻訳等へのAIの影響は、創作者・実演家の人格的利益や文化的多様性にまで及ぶものです。
これらのリスクは一般論に回収せず、AI政策上の重要課題として位置付けるべきです
AI主権には、特定の国や企業への依存回避に加え、権利処理が不透明なデータに依存しないことを含めることを求めます。
日本が目指すAI主権は、単に国産AIを持つことではなく、学習データの由来、権利処理、対価還元、オプトアウト手段を含む「クリーンデータ主権」であるべきです。
【第1章 基本構想】
本素案は「信頼できるAI」による日本再起を掲げていますが、文化産業への言及は抽象的です。
かつて政府が定めた「人間中心のAI社会原則」は、AIを効率化の道具にとどめ、人間の尊厳、多様性、創造性を守る社会を求めていました。
一方で本素案は、AIが「組織や社会の意思決定と実行を担える主体へと進展」し、自律行動型AIが広範な分野で業務全体を自律的に回す基盤になり始めているとしています。
しかし、少なくとも文化・芸術分野において、人間の創造行為を代替する形で自律行動型AIを推進することは、コンテンツ産業を基幹産業とする方針と明確に矛盾します。
文化・芸術分野における自律行動型AIの利用は慎重に扱うと明記することを求めます。
【第2章 AI関連技術の研究開発及び活用の推進に関する施策についての基本的な方針】
「信頼できるAI」を開発するためには、性能や国産化の以前に、「そのAIが何を学習したのか」が信頼できるものでなければなりません。
学習元の同意なきデータ収集に依存するAI、特に生成AIは、たとえ高性能でも信頼できるAIとはいえません。
第2章に掲げられた4原則、すなわちイノベーション促進とリスク対応、挑戦と学習、アジャイルな対応、内外一体での政策推進のいずれにおいても、クリーンデータを共通の前提として明記すべきです。
また、4方針に「AIを知る」を追加することを求めます。
国民には、使用するAIの仕組みや学習データの性質を、使用前に知る権利があります。
さらに、AIにより人間の創造力、思考力、判断力が低下しないよう、AIに依存しない人間力を育てる方針を追記してください。
【第3章第1節 AI利活用の加速的推進】
AI利活用の加速的推進に当たっては、「まず使ってみる」ことのみを強調するのではなく、利用者がAIの仕組み、学習データの性質、生成物の限界を理解した上で使うことを前提にすべきです。
特に行政、教育、医療、防災、文化発信など公共性の高い領域では、誤情報や権利侵害が疑われる場合の停止・訂正手続を整備してください。
私たち国民は、単なるデータ資源ではありません。
国の未来を担い、産業の蓄積と文化の伝統、先人から受け継いだ技術と精神を背負う個人であり、法人であり、社会の主体です。
人工知能基本計画には、その尊厳を前提としたAI利活用の在り方が記載されることを求めます。
利活用促進は、学習データの透明性が保障され、「人間による最終判断を伴う場合に限って」正しく推進され得ると、明記するべきと考えます。
【第3章第2節 AI開発力の戦略的強化】
AI開発力の戦略的強化においては、計算資源、基盤モデル、クラウド、データセンター等の整備だけでなく、学習データの由来、権利処理、対価還元、オプトアウト手段の透明性を確保することを明記すべきです。
「信頼できるAI」の前提は、高性能であることや国内で開発されることだけではありません。権利処理が不透明なデータ、本人や権利者の関与が不十分なデータ、対価還元の仕組みを欠いたデータに依存するAIは、たとえ国産であっても、信頼できるAIとはいえません。
AI開発力の強化に当たっては、国内の計算資源や基盤モデルの整備とあわせて、適法性、透明性、説明可能性、追跡可能性、対価還元を備えた「クリーンデータ」に基づく開発を推進すべきです。
【第3章第3節 AIガバナンスの主導】
生成AIの発展により、著名なキャラクター、作風、声、肖像等を模倣したコンテンツを低コストで大量に生成・拡散することが可能となっています。
これにより、我が国のアニメ、漫画、ゲーム、音楽、映像等が、権利者や創作者の意思に反して、偽・誤情報の拡散、対立の扇動、非正規品の宣伝、国家間の認知戦等に利用される危険が高まっています。
コンテンツは単なるデータ資源ではなく、日本への信頼、文化的影響力、ソフトパワーを支える文化的・経済安全保障上の資産です。
コンテンツの無断利用、政治的宣伝への転用、権利者の関与を誤認させる表示等について、実態把握、相談体制の整備、国際連携及びプラットフォーム対応を総合的に進めることを明記するよう求めます。
【第3章第4節 AI社会に向けた継続的変革】
人間力の向上を、単なるAI活用能力の習得に矮小化すべきではありません。
社会には、直ちに解くべき課題だけでなく、抱え続けるべき問いがあります。
人間には、効率化されるべき作業だけでなく、迷いながら考え、対話し、判断を形成する時間があります。
ネガティブ・ケイパビリティ、すなわち不確実さや答えの出ない状況に耐える力は、AI時代にこそ重要です。
AI実装能力の強化と同時に、AIを使わない判断、導入を保留する制度、数値化できない人間的価値を守る仕組みを明記してください。
AIに思考や判断を委ねず、AIに依存しない人間の主体性、創造力、判断力を育てることを、本節の中心的課題として位置付けるべきです。
【第3章第4節 AI社会に向けた継続的変革 脚注】
脚注7に、「ＡＩ適正活用人材：ＡＩに関連する基礎的な知見・知識として最低限のリテラシーを身につけ、適正な形でＡＩを利活用できる人材。全ての国民が目指すべきもの。」とあります。
全ての国民がAI活用を目指すべきであるかのような方針は不適切です。
国民は、AI社会に適応すべき「人材」である以前に、AIを使うか否かを主体的に判断する主権者です。
AIリテラシーの向上は重要ですが、それはAIを使う能力だけでなく、AIを使わない判断、AIによる判断への異議申立てを含むべきです。
「基本的にはAIを使わない人」を、「AIを理解して使う人」より下位に置くような人材観を国家方針とすることは、人間中心のAI社会原則にも反します。
「AI適正活用人材」の意味には、場合によってはAIを使わない判断をすること、AI利用を拒否すること、人間の創造性や判断を守るためにAI導入を留保することも含まれると明記すべきです。
【第4章第1節「基本計画の推進体制及びフォローアップ」について】
AI政策の影響を受ける主体は、全国民です。 政府、AI開発者、AI利用企業、AIユーザーに限られません。
また、AIの開発及び利活用の基盤となるデータは、個人の生活、労働、創作、研究、事業活動、地域社会等の営みに由来します。
したがって、計画の推進及びフォローアップに当たっては、データを利用する側だけでなく、データの由来となる社会の側からも検証できる仕組みが必要です。
コンテンツ関係者だけでなく、個人データの主体、労働者、消費者、研究者、中小企業事業者、医療・福祉・教育の従事者、自治体の現場職員等の意見を、継続的かつ制度的に聴取してください。
また、フォローアップのベンチマークは、AIの導入件数、利用率、投資額、生産性向上等に偏るべきではありません。AIによって処理され、学習され、代替され、評価される側の人々及び法人への影響も、重要な評価項目とすることを求めます。
【第4章第2節「基本計画の変更」について】
AIに関する技術の発達及び活用の拡大が急速であることを踏まえ、迅速な見直し自体は重要ですが、変更が迅速であるからこそ、権利保護と民主的統制の仕組みを明確にする必要があります。
本計画の変更に当たっては、単に最新の技術動向を反映するだけでなく、AI学習、データ連携、自動化、生成物の流通、行政・民間におけるAI利用が、個人及び法人の権利又は利益に及ぼす影響を検証し、その結果を反映すべきです。
AI施策については、日本国憲法が保障する個人の尊重、平等原則、表現の自由、勤労の権利、財産権、適正手続、公共の福祉等との整合性を継続的に点検することを明記してください。
基本計画の変更に当たっては、その結果を公表し、必要に応じて施策の修正、停止、縮小又は代替措置の検討を行う旨を追記することを求めます。
【第4章第3節「他の計画等との連携」について】
文化芸術基本法第二条は、文化芸術に関する施策の推進に当たって、文化芸術活動を行う者の自主性が十分に尊重されること、その創造性が十分に尊重され、その地位の向上及び能力の発揮に配慮すること、文化芸術活動を行う者その他広く国民の意見が反映されるよう十分配慮すること等を基本理念として定めています。
また、第三条において、国は第二条の基本理念にのっとり、文化芸術に関する施策を総合的に策定し、及び実施する責務を有することが規定されています。
さらに、同法二条十項では、文化芸術により生み出される価値を産業その他の関連分野に活用する場合であっても、文化芸術の固有の意義と価値を尊重しつつ、有機的な連携を図るべきことを定めています。
したがって、人工知能基本計画の策定に当たっても、文化芸術基本法、文化芸術推進基本計画、知的財産政策及びコンテンツ産業政策と矛盾することのないよう慎重に確認することを求めます。
【第2章第1節7ページ17〜19行、27～28行 及び第4章第1節17ページ14行目】
第2章第1節には「まず使ってみる」という精神を広く醸成する旨の記述があり、第4章第1節には、すべての国民がAI適正活用人材を目指す旨の記述があります。
しかし、AIの利用は常に効率化や能力向上をもたらすものではありません。AIの出力確認や修正にかえって時間を要することや、人間の創造的成長を妨げること等もあります。
AI利活用の推進に当たっては、その利点のみを強調するのではなく、デメリットやリスクを含めて取捨選択する力を育てることを明記すべきです。
AIを使うこと自体を目的化するのではなく、使うべき場面、使うべきでない場面、使うとしても人間の判断を中心に置くべき場面を見極める能力こそ、真に必要なAIリテラシーであると考えます。
【第3章第1節8ページ 9行目〜21行目】
政府や地方自治体が、広報物や資料等に生成AIを安易に用いる事例が見られます。
さらに、その成果物において、著しく品質を欠く構図や不自然な表現といった、従来の公共広報には考えられなかった表現上の瑕疵が散見されることに対し、多くのクリエイターが強い怒りと悲しみを抱いています。
この現実を、AI利活用政策の前提として十分に踏まえていただきたいと考えます。
公共部門による生成AIの利用は、社会に対して強い規範的影響を持ちます。
だからこそ、公共は、単に低コストで便利であるという理由で生成AIを用いるのではなく、創作現場に与える影響、権利処理の透明性、対価還元の有無、未来のクリエイター達の仕事を奪う可能性を慎重に考慮すべきではないでしょうか。
【第3章第1節9ページ26〜28行目】
「日本の強みとなる産業・研究分野における豊富で質の高いデータを日本の勝ち筋として活かし」とあります。
しかし、これらのデータは、抽象的な国家資源として自然に存在しているものではありません。
個々の国民が長年にわたり積み重ねてきた成果であり、財産であり、個性であり、尊厳に結びついた営みです。
それらを単に「日本の勝ち筋」のためのデータとして収集し、分析し、均質化するだけで、新たな価値が生まれるとは考えられません。
AI政策は、すべてをAIで解決しようとするものであってはならないはずです。
国民一人一人、企業一社一社、創作者一人一人の固有の強みを丁寧に見出し、その強みをさらに伸ばし、結果として日本全体の強みにつなげるためにAIを用いる、という方向性を明確にすべきです。
