パートナー弁理士 王 勇

 

    2020年5月、OpenAIはGPT-3モデルのベータ版がリリースされ、2022年6月、ChatGPT-3.5が正式にリリースされた後、生成型人工知能は急速に広く注目を集め、人工知能の専門分野から街中の人々に議論される話題になった。2023年7月13日、中国国家インターネット情報弁公室（以下、「国家網信辦」と略す）と他の七つの部門により共同で『生成型人工知能サービス管理暫定弁法』（以下、『暫定弁法』と略す）を公布した。

 

    本文は、『暫定弁法』の策定背景、主な内容、人工知能及びインターネット業界への潜在的な影響を検討し、生成型人工知能の分野での実務者に一定の参考と提案を提供するように、この『暫定弁法』を簡単に解釈、分析する。

 

1．暫定弁法の公布背景

 

    深層学習に基づく大規模事前学習モデル(GPT)などの生成型人工知能（生成AI技術、GAI技術とも呼ばれる）は、大きな進歩を遂げている。自然言語のテキスト、画像及び音声を生成できるこれらのモデルは、テキスト要約からクリエイティブな執筆まで、芸術的創造から自動化された顧客サービスまでを提供し、無限の可能性を有する。しかし、この技術の広範な応用は、コンテンツ生成における道徳的問題、知的財産紛争、虚偽情報の流布、プライバシーの問題など、一連の法的及び倫理的問題も引き起こしており、広く懸念を引き起こしている。2023年4月11日、国家網信辦は、生成型『人工知能サービス管理弁法』（意見募集稿）を公布してから、7月13日に正式に公布、施行するまで、わずか3ヶ月しかかからなかったことから、中国政府の生成型人工知能技術に対する重視を十分に反映している。同時に、特定の技術的手法であって発展しつつある人工知能の応用を規制するための専用の部門法規を設けていることは世界でも稀であり、中国政府は、この人工知能の発展の波を利用し、受動的ではなく積極的に業界の発展を導き、生成型人工知能技術の発展を促進しながら、『『中華人民共和国インターネット安全法』、『中華人民共和国データ安全法』、『中華人民共和国個人情報保護法』、『中華人民共和国科学技術進歩法』及びその他の関連規制の要求を着実に実行することができるように、生成型人工知能サービスの基本仕様を策定する考えである。

 

    この『暫定弁法』は、生成型人工知能に関する中国の重要な法律であり、『インターネット情報サービスのアルゴリズム推奨管理規定』（以下『アルゴリズム規定』と略す）及び『インターネット情報サービス高度合成管理規定』（以下『高度合成規定』と略す）と、人工知能及びアルゴリズムの分野における重要な管理監督規定を構成する。

 

2.『暫定弁法』の主要内容

 

• 適用範囲

 

    当該暫定弁法は、自然言語生成、画像生成、テキスト要約及び国境を越えたサービスに関する状況など、生成型AIサービスの複数の面に適用されるが、これらに限定されない。この法規は、生成型AIサービスの複数の応用分野、即ちニュースメディアから広告まで、ヘルスケアからクリエイティブ産業まで、及び将来に可能性のあるその他の分野をカバーすることを目的とする。

 

    この『暫定弁法』は、生成型人工知能技術を利用し、中華人民共和国の国内公衆に、テキスト、画像、オーディオ、ビデオなどのコンテンツの生成を提供するサービスは、本弁法が適用されると規定している。同時に、意見募集稿の表現とは異なり、国内公衆に提供されない生成型人工知能技術の研究開発・応用は、適用範囲から除外されることも明らかである。従って、生成型人工知能技術が内部の研究開発又は応用のみに使用される場合、インターネット安全、データ安全、個人情報保護などの関連法規を遵守することを前提とし、モデルの訓練フェーズ及びサービス提供者の内部業務におけるコンプライアンスの負担を適切に軽減し、生成型人工知能のイノベーションを奨励するという中国政府の価値観を具体化する。

 

• サービス提供者の義務

 

    生成型人工知能のライフサイクルは、モデル訓練、アプリケーションの運用、モデル最適化の三つの段階に大別できる。これらの段階に関するエンティティには、データ収集者、データ提供者、モデル開発者、サービス提供者及びサービス使用者が含まれる可能性がある。実践中、データ収集者、データ提供者、モデル開発者、サービス提供者は同じエンティティである場合もあるが、相互に連携する異なるエンティティである場合もある。

 

    しかし、おそらく立法上の便宜のため、『暫定弁法』では、生成型人工知能サービス提供者（「提供者」と略す）と生成型人工知能サービス使用者（「使用者」と略す）の2種類のエンティティのみ規定し、提供者の範囲を、即ち生成型人工知能技術を利用して生成型人工知能サービス（プログラマブルインターフェースの提供等による生成型人工知能サービスの提供を含む）を提供する組織、個人であると明確にしている。なお、『高度合成規定』による高度合成技術の支援者、サービス提供者、使用者という三分法、この『暫定弁法』は、主に生成型人工知能の特性に着目し、外部へサービスを提供する提供者の行為をめぐって仕様を確立し、責任設定の面では一定の減縮をし、生成型人工知能サービスの発展をよりサポートする。データ提供者、モデル開発者、サービス提供者などのエンティティ間に存在する可能性のある権利義務関係については、将来の法規に任せ、又は相互の契約上の義務を利用して規制することができる。

 

    同時に、この『暫定弁法』は部門法規であるため、そのうちの内容の一部、即ち法令、行政規制の遵守、社会道徳、倫理道徳を尊重する義務などは、既にその上位法令又は他の関係部門法規に規定されており、ユーザーの個人データ及びプライベートデータの収集、使用及び保護、データ安全、他の人の知的財産権の保護などは、『中華人民共和国インターネット安全法』、『インターネット情報サービスのアルゴリズム推奨管理規定』『インターネット情報サービス高度合成管理規定』などの法規において、同一又は相当する内容がある。

 

    この『暫定弁法』は、コンテンツ管理の面では、提供者は、ネットワーク情報コンテンツの制作者としてネットワーク情報安全義務を負うべき、個人情報に関する場合に、提供者は、法律に基づいて個人情報処理者としての責任も負い、個人情報保護義務を果たすことを明確にしている。訓練データの面では、訓練データの信頼性、正確性、客観性、多様性を高めるように、提供者は、合法的に処理し、品質要求を満たし、コンテンツの識別とアルゴリズムの修正及び報告を行う義務を負う。使用者との権利及び義務の関係において、提供者は、使用者が生成型人工知能サービスを効果的に使用できるように、サービス契約を作成し、合理的使用と依存症防止メカニズム、サービスの安定性を確立する義務、及びクレーム通報処理機構を確立する義務を負う。その他、提供者は、安全評価、アルゴリズムの届出、アルゴリズムの開示などの管理監督上の義務も負う。

 

    注目すべき点は、当該『暫定弁法』によれば、中華人民共和国の国外から国内への生成型人工知能サービスの提供が法律及び行政規制に違反する場合、国家網信部門は、関係機関に技術的措置及びその他の必要な措置を講じるように通知することができる。従って、中国の国外から国内への生成型人工知能サービスの提供を法規は禁止するものではないが、このようなサービスが中国の法規に違反する場合、中国政府は、このようなサービスの提供を阻止するように必要な措置を講じることができる。これは、この暫定弁法が国外のサービス提供者に対して一定の規制作用を有することも意味する。

 

• 処罰措置

 

    『暫定弁法』は、法規の効果的な実施を確保するように、違法行為に対する罰則を規定している。処罰は、主に『中華人民共和国インターネット安全法』、『中華人民共和国データ安全法』、『中華人民共和国個人情報保護法』、『中華人民共和国科学技術進歩法』などの法律及び行政規制に基づいて行われる。これらの処罰には、警告又は罰金、関連するライセンス又はの停止又は取り消し、刑事責任などが含まれる。しかし、注意すべき点は、法律、行政規制に規定しなかった場合でも、関係管轄当局は、依然として職務により、この『暫定弁法』の規定に違反した者に対し、警告、批判の通知、期限内の修正命令を与えることができ、修正を拒否するか、状況が深刻である場合、関連するサービスの提供の停止を命じることができる。この規定は、おそらく技術の進歩ペースが速く、立法のスピードが相対的に遅れていることが考えられ、新たな違反行為に迅速に対処するように、関係部門の法執行官に比較的広くて柔軟な執行余地が与えている。しかし、このような処罰には明確な法的根拠が欠如しており、関係部門の法執行官が強力的又は恣意的な解釈権限を持っている可能性があるため、実務者にその行動予測に対する不確実性をもたらす可能性がある。同時に、この比較的広くて柔軟な規定は、この『暫定弁法』に限ったものではなく、『インターネット情報サービスアルゴリズム推奨管理規定』においても類似の規定があり、実務者にとって注目に値する。

 

3.『暫定弁法』による影響及び展望

 

    『暫定弁法』は、生成型人工知能技術の参加者に対して多くの義務が規定されており、モデル開発者、データ提供者だけでなく、モデルを利用してサービスを提供する提供者及び最終使用者であるユーザーにも関する。提供者は、使用者が生成型人工知能サービスを利用して違法行為に従事することを見出した場合、警告、機能の制限、使用者へのサービスの提供の一時停止又は終了などの処分措置を講じる以外、関係管轄当局への通報も要求されるとともに、使用者は生成型人工知能サービスが法律、行政規制及びこの『暫定弁法』の規定に違反することを見出した場合、関係管轄当局に苦情を申し立て、上流のモデル開発者又はサービス提供者を通報する権利を有することも要求される。このような相互監視抑制の関係により、生成型人工知能技術の提供者は、技術の道徳性及び合法性を確保するように、倫理及び法規の遵守に更に注意を払う必要がある。しかし、生成型人工知能のサービス提供者が公衆にサービスを提供する場合、ユーザーがその技術を悪用し又は誤用して生成されたコンテンツが規制違反を引き起こして処罰されることを防ぐために、ユーザーの使用行為を制限したり、コンテンツの生成を技術的手段によって制限したり、生成されたコンテンツを手動又は技術的手段で監視又はフィルタリングしたりするこれらのことは、サービス提供者のコストが増加したり、テクノロジーの研究開発がより困難になったりするだけでなく、ユーザーの使用体験にも影響を与える。

 

    『暫定弁法』に規定されている「世論属性」又は「社会動員能力」を有する生成型人工知能サービスを提供するには、中国の関連規制に従って安全評価を実施し、且つ『インターネット情報サービスアルゴリズム推奨管理規定』に従ってアルゴリズムの届出及び変更、届出取消の手続き、即ち届出システムを履行することは、人工知能の参加者にとって注目に値する。ここで言及されている「世論属性又は社会動員能力」の範囲は、国家網信辦が公布した「世論属性又は社会動員能力を有するインターネット情報サービスの安全評価規定」に明確に規定されており、即ち、フォーラム、ブログ、マイクロブログ、チャットルーム、コミュニケーショングループ、公衆アカウント、ショートビデオ、ウェブキャスト、情報共有、ミニプログラムなどの情報サービス又は付設された対応機能を確立すること、及び世論表現のためのチャンネルを提供したり、社会公衆を特定の活動に結集する能力を有する他のインターネット情報サービスを確立することが含まれる。従って、サービス提供者が提供する生成型人工知能技術が上記サービスに関する場合、国家の関連規制に従って安全評価を行うだけでなく、アルゴリズムの届出手続きも履行する必要がある。中国国内に生成型人工知能技術サービスを提供するすべての国内外のサービス提供者に対し、基本的に安全評価及び届出に関する問題に遭遇すると予想される。この規定は公布されたばかりであるため、中国の生成型人工知能技術の開発への影響には、しばらく観察時間がかかる。

 

    わずか1年半の期間で、人工知能技術に関する重要な部門法規である『インターネット情報サービスアルゴリズム推奨管理規定』（2022年3月1日施行）、『インターネット情報サービス高度合成管理規定』（2023年1月10日施行）及びこの『暫定弁法』がそれぞれの関係管轄当局により策定、実施されたことから分かるように、中国政府は人工知能分野での技術革新と経済成長を実現したいとともに、更にはその社会、倫理、安全への影響を重視し、人工知能技術の推進と関連リスクとのバランスを取るように迅速に対応し、人工知能技術の応用と研究開発を監督するように明確な管理監督の枠組みを確立する考えである。これは、進化しつつある技術的及び倫理的課題に対処するように、人工知能の新技術に取り組む中国政府の積極的な姿勢を反映している。人工知能技術のさらなる発展に伴い、中国政府は、技術の進歩による新たな問題に対応するための他の法規を策定することも予想される。

 

著者プロフィール：

    王勇先生は、1991年に上海華東師範大学コンピュータ科学専攻を卒業した。1994年に中国科学院計算技術研究所で、修士号を、2005年に中国人民大学で法学修士号を取得した。

　

    1991年から2006年12月まで、中国特許代理(香港)有限会社で電気部の経理を担当していた。2007年1月から弊所にパートナーとして加入した。
　　

    王勇先生の業務範囲は、コンピューター、通信技術、半導体装置、自動制御、家用電気などの分野を含む。特許出願書類の作成、審査指令の応答、再審請求、無効審判、特許行政訴訟、権利侵害訴訟、集積回路のレイアウト保護、コンピューターウェアー保護などの方面に豊富な経験がある。