2022年1月28日、国家インターネット情報弁公室は「インターネット情報サービスディープフェイク管理規定（意見募集稿）／互联网信息服务深度合成管理规定（征求意见稿）」を公表し、2022年2月28日までパブリックコメントを募集した。
本稿では、本意見募集稿の要点を日本語訳をつけて抜粋整理し、最後に日系企業への影響についてまとめている。
主な内容
対象と定義
適用対象は、中国国内でのディープフェイク技術を応用したインターネット情報サービス（以下「ディープフェイクサービス」という）の提供、およびディープフェイクサービスの技術サポートを提供する活動である。（2条）
本規定のディープフェイク技術とは、深層学習（ディープラーニング）や仮想現実（VR、バーチャルリアリティ）を代表とする機械学習アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等の情報を生成する技術を指す。以下に例を挙げるが、これに限らない。（2条2項）
- テキストコンテンツを生成または編集するための技術
- 音声コンテンツを生成または編集する技術
- 音声以外のコンテンツを生成・編集する技術
- 画像や映像コンテンツに含まれる顔等の生体的特徴を生成・編集するための技術
- 画像や映像コンテンツの非生体的特徴を編集するための技術
- 仮想シーンを生成・編集するための技術
ディープフェイクサービス提供者とは、ディープフェイクサービスや当該サービスの技術サポートを提供する組織を指す。（2条3項）
ディープフェイクサービス利用者とは、当該サービスを利用して情報を作成、複製、公開、拡散する組織や個人を指す。（2条4項）
ディープフェイク技術の提供・利用に関する規定
ディープフェイクサービス提供者は、法令に基づき、サービス利用者の真実の身分情報の認証を行う。（9条）
ディープフェイクサービス提供者は、サービス利用者の入力データおよび合成結果を技術的に又は手動で監査し、違法かつ望ましくないコンテンツを識別するための特性ライブラリを構築し、収載基準、規則、プロセスを整備する。違法かつ望ましくないコンテンツは法律に基づいて対処し、加えて法律および規約に基づいて、サービス利用者に警告、機能制限、サービス停止、アカウント閉鎖およびその他の処分を行うものとする。（10条）
ディープフェイクサービス提供者が顔や音声等の生体情報に対する編集機能を提供する場合、個人情報の主体から法令に従って単独の同意を得るようサービス利用者に告知しなければならない。 （12条2項）
ディープフェイクサービス提供者は当該サービスを使用して作成されたコンテンツに対し、有効な技術的手段を用いてユーザーの使用には影響しない識別子を付加し、法令に従ってログを保存して、公開・拡散されたコンテンツを識別、追跡できるようにしなければならない。（13条）
ディープフェイクサービス提供者が、次のサービスを提供する場合、目立つ方法でディープフェイクによるコンテンツである旨を表示して、合成状況を提示しなければならない。（14条）
- AIによる対話や文章作成等のテキスト生成・編集サービスを提供する場合、テキストコンテンツの出所説明等の位置に目立つよう表示を行う。
- 声の合成や模倣等の個人の識別特性を著しく変化させる音声生成・編集サービスを提供する場合、音声コンテンツの合理的な箇所に音声ガイド等によって目立つよう表示を行う。
- 顔生成、顔交換、顔操作、ポーズ操作等のバーチャルキャラクター画像、映像の生成、又は個人の識別特性を著しく変更する編集サービスを提供する場合、画像・映像コンテンツの目立つ位置に表示を行う。
- 没入型のリアルなシーン等の生成・編集サービスを提供する場合、仮想シーンコンテンツの目立つ位置に表示を行う。
- その他のコンテンツを生成するか、著しく変化させる機能を有するサービスを提供する場合、文字、画像、音声または映像、仮想シーン等の合理的な位置または領域に目立つよう表示を行う。
ディープフェイクサービス提供者は、サービス利用者が虚偽の情報を生成、複製、公開および拡散することを発見した場合、速やかに必要な対応を行い、かつ関連する情報をインターネット情報部門等に届出登録しなければならない。（17条）
ディープフェイクサービス提供者は、「インターネット情報サービスアルゴリズムレコメンド管理規定」の関連規定に基づいて、サービス提供日から10営業日以内に届出登録を行い、サービス提供サイトやアプリ等の目立つ位置に届出登録番号を表示し、公開情報へのリンクを設置しなければならない。（19条）
ディープフェイクサービス提供者が、世論属性または社会動員能力を有する新しい製品、新しいアプリ、新しい機能をリリースする場合、国家の関連する規定に基づき、セキュリティ評価を実施しなければならない。（20条）
本意見募集稿にに対する見解
本意見募集稿は、中国政府が2021年8月に発表した「法治社会建設実施綱要2020-2025」において、アルゴリズムを用いたレコメンドやメディアの合成といった新しい技術について規範を設けるとした方針に基づき発表されたものと考えられる。
世界ではディープフェイクを悪用した事件が多数発生しており、米国では選挙や政治家、ポルノに関連したディープフェイクを規制する動きが出ている。中国においてもディープフェイクが悪用されれば社会や経済の混乱、国民の権利侵害を招くことが懸念されることから、市場が本格的に成長する前に管理規定を整備したいという意向がうかがえる。
仮に本意見募集稿が原案通りに公表されたとしても、外国企業によるディープフェイクを用いた各種サービスの提供を妨げるものではなく、ユーザーのディープフェイクの利用を直接的に制限するものでもないと考える。本意見募集稿に、中国国外で作成したディープフェイクを中国国内で展開する場合の規定はないが、日系企業が中国で展開するサービスや広告等でディープフェイクを用いたコンテンツを利用する場合には細心の注意が必要となるだろう。例えば、日本国内でディープフェイクを用いて広告を制作した後、中国国内に持ち込んでインターネット上で公開するといったケースが考えられる。
今後、修正を経てディープフェイクの利用に関する規定が新たに追加されたり、利用に関するルールを定めた法令が別途発表されたりする可能性もあるため、当局の発表の動向に注意する必要がある。
公式リンク（中国語）
http://www.cac.gov.cn/2022-01/28/c_1644970458520968.htm
本レポートはクララが発行する「中国法令アラート 2022 年2月号」の内容を一部抜粋、編集したものです。「中国法令アラート」では、最新の法令・制度変更に関する詳細および予想される日系企業への影響、実務で得た動向変化に関する情報等を毎月 PDF でお届けしています。
