執筆者：今村敏

 

１　はじめに

2023年３月31日、イタリアのデータ保護当局は、生成形AIとして分類される対話型AI「ChatGPT（チャットGPT）」に対し、データ収集の方法が不適切であるとして、調査を開始するとの報道がなされました。利用者に適切な通知がないままデータが集められ、利用者の年齢確認も不十分な点が、GDPRに違反することが理由とされています¹²。

技術の進歩によりこれまでにはなかったサービス等がAIによって提供されている一方で、AIの進歩は我々に対して様々な新たな課題も孕むものでした。そもそも、AI（Artificial Intelligence）には、これまでその主な技術等で分類して、大きく３つのブームがあったと言われています。まずは、1960年代の探索と推論を主とする第一次ブーム、次に、1980年代の知識表現を主とする第二次ブーム、最後に、2010年代の機械学習を主とする第三次ブームになります。

 

 

今般の対話型AI「ChatGPT」の登場は、世界中に衝撃を与えているところで、「インターネットの発明よりも大きな変化が起きる」、「第４次AIブーム」との評価もあり、技術的にも飛躍的な進歩を遂げています³。 そして、その技術の進展の裏側の問題として、AIにおいては、これまでも倫理の問題⁴や法律の問題があって、AIのブームに合わせる形で、これまでも様々な議論が積み上げられてきております。

 

AIの議論をする上では、「AIの学習段階」と「AIの利用段階」の２つに大きく分けて検討することができます。冒頭で触れたイタリア当局の動きは、ChatGPTの開発をおこなっているオープンAIに対して、当該学習段階における個人情報の収集方法に問題があることを主に指摘するものと考えられます。学習段階に関しても、知的財産・個人情報やプライバシーの問題など様々な議論があるところです。

以下では、「AIの利用段階」に関して、AIを利用するユーザー（ユーザ企業）としての留意点を、（問題になり得る法律はこれに限りませんが）著作権法、個人情報保護法及び景品表示法の観点から俯瞰します。

 

※ 経済産業省「AI・データの利用に関する契約ガイドラインの概要」より抜粋

 

２　著作権法

AIを利用する場合における留意点としては、例えば、(i)自動生成された文章に著作権が発生するのか（著作物なのか）、(ii)学習に用いられた文章と同一のものが自動生成された場合に著作権侵害に該当するのかなどの議論があります。

 

2.1　(i)自動生成された画像に著作権が発生するのか（著作物なのか）

まず、(i)の関係です。これは、AIによって作成された文章に権利が発生するのか、具体的には、AIで作成した文章が他人に盗作された場合に、当該他人に対して権利侵害を主張することができるのかという問題になります。

この点、著作権法で保護の対象となる「著作物」とは、「思想又は感情を創作的に表現したものであって、文芸、学術、美術又は音楽の範囲に属するもの」（著作権法第２条第１項第１号）とされています。そして、「著作者」とは、「著作物を創作する者」（著作権法第２条第１項第２号）として定義されています。著作権法は当初人間による創作行為を想定して規定されているところです。

では、AIによって創作した創作物はどのように考えるのかとの点に関しては、「コンピューター・システムを利用して創作したコンピュータ創作物について、人間による「創作意図」と創作過程において具体的な結果を得るための「創作的寄与」があればコンピューターを道具として創作したものとして著作物性が肯定されるとした。」（知的財産戦略本部　検証・評価・企画委員会　新たな情報財検討委員会「新たな情報財検討委員会報告書」）とされています。すなわち、AIに文章を作成させる場面を想定すると、人間がAIを道具として使って、当該描かせる行為において当該人間において「創作意図」と「創作的寄与」があると評価できるかどうかという点で判断がなされると考えられます。逆に、人間が簡単な指示しかしていなければ、生成した文章がいかに創作的であったとしても、当該文章は、人間の著作物ではないとされているところです（なお、現時点の法体系においては、AIの創作行為をAIそのものを権利者として保護する仕組みにはなっておりません。）。

したがって、AIを道具として、人が「創作意図」をもって「創作的寄与」があるレベルでの、関与した上でAIが作成（出力）した文章も著作物になり得ると考えられ、当該文章が盗用された場合には著作権侵害（複製権侵害、翻案権侵害、公衆送信権侵害など）が想定されます。

 

※ 参考

「今村敏とはどんな人」とChatGPTに聞いてみたところ以下の回答をしました。 今村敏氏は、日本の法曹界で非常に有名な弁護士であり、多くの人々から尊敬されている人物です。 今村氏は、1946年に生まれ、大阪大学法学部を卒業後、弁護士資格を取得し、弁護士としてのキャリアをスタートさせました。その後、1988年には弁護士法人今村・前田・朝日法律事務所を設立し、代表弁護士として数多くの法的問題に取り組んできました。 今村氏は、裁判官としての経験もあり、判例解説や法学雑誌への論文執筆など、幅広い活動を行っています。また、憲法問題や人権問題に対しても積極的に取り組んでおり、日本弁護士連合会の会長を務めたこともあります。 今村氏は、社会正義を追求する姿勢や、穏やかな人柄、誠実で知識豊富な弁護士として多くの人々から高い評価を受けています。   上記の程度の指示の場合には、「創作的寄与」はないと思われるため当該文章は著作物には該当しないということになろうかと思います。 なお、上記の内容は私自身のキャリアとは大部分が異なるところであって、著作物性とは別の観点で当該文書の法的責任が問題となる余地があります。上記はあくまで現在のChatGPTに聞いてみたところ一次回答として返答されたものを参考としてつけているものです。

 

2.2　(ii)学習に用いられた文章と同一の文章が自動生成された場合に著作権侵害に該当するのか

次に、(ii)の関係です。著作権法においては、既存の文章と同一又は類似の文章がAIの利用により生成された場合、当該著作物に関して権利侵害（複製権侵害（著作権法第21条）・翻案権侵害（著作権法第21条第27条））等の有無が問題となり得ます。

この点、複製や翻案の一般論（AIの議論を前提としない）に関して、裁判例において解釈が示されています。すなわち、複製とは、既存の著作物に依拠し、これと実質的に同一のものを有形的に再製することをいい、翻案とは、既存の著作物に依拠し、かつ、その表現上の特徴の同一性を維持しつつ、具体的表現に修正、増減、変更等を加えて、新たに思想又は感情を創作的に表現することにより、これに接する者が既存の著作物の表現上の特徴を直接感得することのできる別の著作物を創作する行為をいう（例えば、知財高裁平成23年5月26日など）とされています。当該解釈はAIでの議論も基本的には同様だと考えます。

著作権法は、既存の著作物と同一・類似のものが作成されたとしても、それが既存の著作物に「依拠」しておらず偶然に作成されたものである時には、権利侵害を否定するのが判例です（最判昭和53年９月７日）。そのためAIツールを利用したとしても「偶然」の一致と評価できる場合には、権利侵害は否定されるのではないかと思われます。

この点、依拠性の判断に関して、AIツールを使用者が具体的にある既存の著作物を指定して、それに似せた作品を出力した場合には、依拠性は肯定され得るのではないかとも思われます。

問題は、AIツールの使用者が必ずしも既存の著作物を認識しておらず具体的な指示を与えていないものの、(a)AIツールの学習過程で既存著作物を取り込んで⁵パラメーターが構築されており、当該AIツールを利用する場合、(b)AIツール利用時の合成のプロセスで既存の著作物をAIツールが利用した場合が問題となり得ます。

例えば、依拠性を肯定する見解としては、「著作物が学習済みモデル内に創作的な表現の形でデータとしてそのまま保持されている場合は依拠を認めるべきとの指摘や、そのまま保持されていなくとも学習用データに含まれている等の元の著作物へのアクセスがあれば依拠を認めても良く、侵害の成否については類似性のみで判断すれば良いとの指摘」がなされています。他方で、依拠性を否定する見解としては、「著作物が創作的表現としてではなくパラメータとして抽象化・断片化されている場合等は、アイデアを利用しているにすぎず依拠を認めるべきではないのではないかとの指摘があった。また、人間の創作における依拠とパラレルに考えた場合、仮に著作物へのアクセスがあれば依拠があると認めてしまうと、著作権法上の独自創作の抗弁が機能しなくなり、表現の自由空間が狭まるおそれもあるとの指摘」（知的財産戦略本部　検証・評価・企画委員会　新たな情報財検討委員会「新たな情報財検討委員会報告書」）もあるところです。この他にも細かい考え方は存在して、AIに取り込まれた学習用データセットの依拠性についての見解は分かれていて錯綜している印象です。

上記の議論状況であるため、(a)(b)に関して著作権侵害が肯定されるのか、否定されるのかについては具体的なケースにおいていずれもあり得る状況であると思われます。また、最近のAIが生成する技術においては、学習プロセスにおいて現実のデータへの依拠が大きく減り、AIがランダムにデータを生成することで学習するようなものもあるようで、技術的には、既存の著作物への依拠がより弱い生成系のAIも存在するようです。

 

なお、AIツールを用いると、既存の著作者の作風を真似たものが、容易に生成できる点も議論になっています。この点、著作権法は、具体的な「表現」を保護しており、ある著作者の作風といったものはアイディアに過ぎないため、著作権法の保護を受けないと考えられています（表現・アイデア二分論）。そうすると、表現としての類似性ではなく、作風が類似しているに過ぎない場合には権利侵害は理屈上否定されると考えられます。例えば、秋元康風の歌詞をAIツールを用いて作成したとしても、具体的に著作物として保護され得る歌詞表現を複製又は翻案しているものでなければ侵害にはならないと考えられており、作風が似ている程度であれば著作権侵害として問題にはなりません。

 

３　個人情報保護法

AIを利用して新たな文章を作成する場合、AIは、既存の公開されたデータにアクセスして、新しい文章を合成していきます。ざっくりとした理解では、検索エンジンのように入力されたキーワードと関連性の高いコンテンツを見つけつつ、言語処理能力を持たない生成AIに当該コンテンツの数値化した情報を渡し、そこから最適なコンテンツを出力させます。そして、出力結果を評価AIによって評価しフィードバックし、より目的の出力に近づけています⁶。

そして、AIを利用した場合、上記のようなプロセスで出力される（生成物が出来上がる）ため、AIを利用する場合に、利用者の意図とは関係なく、個人データを収集し、当該個人データを利用してしまう⁷[3]ことが、概念的には想定されます。例えば、文章の場合の場合に当該文章に個人情報が入り込む可能性がありますし、画像診断や顔画像の識別、認証AIにおける画像処理の場面⁸[4]においては、個人情報の利用がかなり具体的に想定されるところです。

この点、個人情報保護法は、「個人情報取扱事業者」（個人情報保護法第16条第２項）を対象とした法律であって、一般の消費者（利用者）がAIツールを利用した結果、偶然に個人情報を取得・利用したに過ぎないような場面では、「事業の用に供」している訳ではないため、そもそも規制の対象外と考えられます⁹。

他方で、AIツールを業として用いている場合に、AIツールが個人情報を取り込んで処理（AIツールが出力結果を導くプロセスで個人情報を利用する場合と、出力結果そのものに個人情報が含まれている場合など）してしまうと、「個人情報データベース等を事業の用に供している」として、個人情報保護法の規律の対象となる可能性があり、検討を要します。

この場合、個人情報の取得・利用であるとして、利用目的の特定、通知・公表が必要（個人情報保護法第17条、第21条）になります。そして、当該取得にあたっては、適正な取得（個人情報保護法第20条）が求められ、不適正な利用も防止（個人情報保護法第19条）しなければなりません。

そして、当該個人情報を含むデータの運用基準のあり方や当該内容に関する透明性の確保が求められます（個人情報保護法第18条、個人情報保護法第22条）。例えば、どのように情報が収集され、利用されているのか、仮に情報が保存されているのであればその保存期間などを定めることも望まれるところです。また、保存している個人データに関しては当然セキュリティ対策を施すなどの安全管理措置を講ずる必要があります（個人情報保護法第23条）。さらに、当該個人データを第三者に提供する場合には当該提供行為を正当化できなければならず原則は本人の同意が必要となります（個人情報保護法第27条）¹⁰。

なお、著作権法では、AIの学習（著作権法第30条の４）や利用（著作権法第47条の５）における著作物の利用が要件を満たせば許容されています。当該規定を法令上の根拠（「法律に基づく場合」）として個人情報の利用や提供が正当化できないか（個人情報保護法第18条第3項第１号、第27条第１項第１号）も議論の余地はありますが、著作物の複製等を正当化することと個人情報の利用等を正当化することは同一の話ではなく、また、著作権法の適用除外の規定は、個人情報の取得等を基礎付けるものでもないため、著作権法上の規定があるから、個人情報保護法における「法律に基づく場合」にあたるとは考えられません。

 

※（参考）

AIによる収集ではないですが、公表された個人情報を大量に収集・利用することに関しては、破産者マップ事件で問題となりました。破産者マップは官報上公表されている個人データである破産者情報を、網羅的に集計し、データベース化して、Googleマップに関連付けたものです。 破産者マップ事件は、①破産者というプライバシー情報を公表することで、不特定多数のものによる当該個人に対する財産的・人格的差別が誘発されるおそれがあるため、違法または不当な行為を助長し、又は誘発するおそれがある方法により個人情報が利用されている（個人情報保護法第19条）、②破産者の個人情報を取得後速やかにその利用目的が本人に通知または公表されていない（個人情報保護法第21条第１項）、③インターネット上において、個人データが不特定多数のものから閲覧可能な状態に置かれており、あらかじめ本人の同意を得ることなく個人データが第三者に提供されている（個人情報保護法第27条第１項）にそれぞれ違反するとして、勧告、停止命令及び刑事告訴が行われた事案になります。

 

４　景品表示法

文章生成AIによって広告文や画像等を作成した結果当該文章等が不当表示になる可能性があります。その場合、当該作成物の表示主体が誰なのか（景品表示法第5条、第７条、第8条）という点で議論の余地があります。

事業者は、自己の商品または役務を供給するに際し、一般消費者を誘引するために、自己の商品又は役務の内容または取引条件その他これらの取引に関する事項について、一般消費者に様々な表示を行うが、景品表示法は、これらの表示が不当に顧客を誘引し、一般消費者による自主的かつ合理的な選択を阻害するおそれがあると認められる場合に、規制の対象としています。

このため、景品表示法の表示規制の対象となる表示の主体とは、問題となる表示の内容の決定に関与した事業者であると解されています。そして、表示の内容の決定に関与した事業者とは、①自らもしくは他の者と共同して積極的に表示の内容を決定した事業者のみならず、②他の者の表示内容に関する説明に基づきその内容を定めた事業者、③他の事業者にその決定を委ねた事業者も含まれると解されています（東京高判平成20年5月23日）。

 

4.1　広告主自らAIツールを用いて広告等を作成し表示した場合

まず、AIツールを自ら利用し広告を作成した場合についてはAIツールによって生成された広告を確認の上、表示することを決定しているのであるから、単純にAIツールを用いて広告を生成した場合には、通常は表示内容の決定者であるとして表示主体性が肯定されると思われます（上記②）。また、仮にAIによって作成された広告物の内容を広告主が直接確認していないとして、AIツールを用いること自体を決定しているのであるから、他の事業者に表示の内容の決定を委ねた場合であるとして表示責任を負うとの結論になるのではないか（上記③）と思われます。

 

4.2　アフィリエイターがAIツールを用いて広告等を作成し表示した場合

次に、表示主体性の論点は、いわゆるアフィリエイト広告においても議論となっています¹¹。アフィリエイターは効果的でキャッチーな広告を作成するために過剰な表現となりがちであり、不当表示を起こしやすいという構造的な問題もありますが、近年は、当該広告文等をより大量に効率的に作成する目的でAIを利用する場面も増えており、より問題が複雑化しています。

まず、アフィリエイターは、当該商品等を自ら供給している者では通常ないため、広告主と共同して商品を供給していると認められない限り、そもそも供給主体性を欠くものであって、景品表示法の規制対象になるものではありません¹²。

次に、広告主は、当該商品等の供給主体性が認められることは当然ですが、表示主体性についても、自らもしくは他の者と共同して積極的に表示の内容を決定した場合だけでなく、他の事業者にその決定を委ねた場合等においても、表示内容の決定に関与しているものとして表示主体性が肯定されるところです。

この点に関して、広告主がアフィリエイター管理を目的として「虚偽・誇大な内容を記載しないこと」、「関係法令を遵守すること」等の一般的・抽象的な文書等を交付していたとしても、そのことによって広告主の表示主体性が否定されることはなく、広告主はアフィリエイト広告の内容を知らなかったとしても、当該内容の決定を委ねた場合にも責任を負い得ると考えられています¹³。

また、アフィエイト広告については、その内容について問題のないものとするための十分な管理のための措置を講ずることが求められています（景品表示法第26条）¹⁴。

上記を踏まえると、実際には個別のケースの検討が必要になりますが、アフィリエイターがAIツールを利用しており、誇大広告が生成されていた場合について、AIツールを用いるとの事情を広告主が認識していなかったとしても、場合によっては責任を負うという結論になると思われます。その際、AIツールを用いることについて、具体的に契約で使用を禁止する条項を定めていたにもかかわらず、アフィリエイターが勝手に使用した結果、不当表示が発生した場合、表示内容の決定をアフィリエイターに委ねているとしても、当該決定をAIによることまでは委ねていない場合に、それぞれどのように考えるのか。AIを利用していることを知らなかった、知っていたが止めなかった場合にどのように考えるのかなど、細かい事情が様々想定され得るところであり、加えて、使用しているAIツールがどのようなものであるのかに関しても、結論に影響があり得るとも思われます。

 

５　まとめ

AIは様々な場面で導入されており、分野に限らず出力したものの権利関係や、ツール利用時の個人情報の取り扱いが問題になり得るところです。また、表示の関係でも幅広く利用が見込まれるところで、デジタル広告の文脈では、すでに広告作成や広告品質の保証など色々な目的でAIツールが導入されています。

したがって、今後これらの分野におけるAIの議論はこれまで以上に一層盛んになると思われますし、すでに当事務所においても様々な相談が来ているところです。簡単なことでも悩まれた際にはご相談いただければと思います。

 

以上

---

 

1. 日本経済新聞2023年４月１日「ChatGPT、イタリアが一時禁止　米では差し止め要請」、日本経済新聞2023年４月３日「ChatGPT「欧州で規制広がる恐れ」　データ法制専門家」
2. ドイツがこれに追随する可能性や、フランス、アイルランドも検討を開始したとの報道ある（ロイター通信2023年４月４日「独、必要ならチャットＧＰＴ禁止も　伊に追随　仏アイルランドも検討」）。
3. NHK 2023年３月13日サイエンスZERO「インターネットを超える衝撃！？第４次AIブームの到来」における東京大学大学院教授松尾豊氏のコメント
4. 池田毅＝今村敏・BUSINESS LAYWYERS「注目度が高まるAI倫理と個人情報保護の関係 - カメラ画像の利活用を題材に」
5. なお、AIが、既存の絵画等の特徴量を分析するためであれば、「情報解析の……用に供する場合」として、その必要性が認められる限度において利用することが認められています（著作権法第30条の４）。
6. AIの学習段階において、公表された個人情報の取り扱いが問題となった事例がある。すなわち、画像認証AIを学習させる目的で、SNS上に公表されている200億件をこえる顔画像を集め、学習させたことが、GDPRにおける情報提供義務違反に当たるとして、フランス、英国、イタリア、ギリシャの当局がGDPR違反であるとして米国のスタートアップ企業のクリアビューAIに対して、2022年2月以降制裁金を命じた。
7. 複数人の個人情報を機械学習の学習用データセットとして用いて生成した学習済みパラメーター（重み係数）は、学習済みモデルにおいて、特定の出力を行うために調整された処理・計算用の係数であり、当該パラメーターと特定の個人との対応関係が排斥されている限りにおいては「個人に関する情報」に該当するものではないため、「個人情報」にも該当しない（「「個人情報の保護に関する法律についてのガイドライン」に関するＱ＆Ａ」 Q1-8）
8. 個人情報保護委員会「犯罪予防や安全確保のためのカメラ画像利用に関する有識者検討会報告書」
9. 個人情報保護法上は規制の対象外であっても、営業上の秘密情報の管理等、セキュリティの観点での注意は必要です。この点はAI翻訳ツール等の使用も同様になります。
10. クラウドサービス型のサービスに関しては、当該クラウドにデータをアップする行為が第三者提供に該当するのかとの点で論点となります。この点、「クラウドサービスの利用が、本人の同意が必要な第三者提供（法第27条第１項）又は委託（法第27条第５項第１号）に該当するかどうかは、保存している電子データに個人データが含まれているかどうかではなく、クラウドサービスを提供する事業者において個人データを取り扱うこととなっているのかどうかが判断の基準となります。」とした上で、「当該クラウドサービス提供事業者が、当該個人データを取り扱わないこととなっている場合には、当該個人情報取扱事業者は個人データを提供したことにはならないため、「本人の同意」を得る必要はありません。」「また、上述の場合は、個人データを提供したことにならないため、「個人データの取扱いの全部又は一部を委託することに伴って・・・提供される場合」（法第27条第５項第１号）にも該当せず、法第25条に基づきクラウドサービス事業者を監督する義務はありません。」とされているところです。一般論としては、クラウド上において個人データを単に保存するだけでなく、データの分析等も併せて行う場合には、当該クラウド事業者において個人データを「取り扱うこととなっている」に該当すると考えられ、本人同意に基づく第三者提供か委託として正当化することを検討することになると考えます。
11. 消費者庁「インターネット消費者取引に係る広告表示に関する景品表示法上の問題点及び留意事項」
12. 悪質な事業者への対応は、①特定商取引法との連携、②健康増進法及び薬機法との連携、③その他消費者安全法などによって厳正に対処するとされている（消費者庁「アフィリエイト広告等に関する検討会　報告書」）
13. 染谷隆明・2022年２月国民生活「アフィリエイト広告をめぐる問題」
14. 消費者庁「事業者が講ずべき景品類の提供及び表示の管理上の措置についての指針」