2022年12月11日、国家インターネット情報弁公室、工業情報化部、公安部は「インターネット情報サービスディープフェイク管理規定(互联网信息服务深度合成管理规定)」を公布した。2023年1月10日より施行されている。
本管理規定19条では、世論属性又は社会動員能力を有するディープフェイクサービス提供者（組織または個人）とディープフェイクサービス技術支援者（組織または個人）に対し当局への届出登録を義務付けており、2023年6月20日には届出登録を済ませた事業者リストの第一弾が公表された。
本稿では、本管理規定の要点を抜粋整理して日本語参考訳をつけ、併せて届出登録を済ませた事業者リストを掲載する。
対象と定義
中国国内において、ディープフェイク技術を応用したインターネット情報サービス（以下「ディープフェイクサービス」という）を提供する場合、本規定を適用する。（2条）
ディープフェイク技術とは、深層学習（ディープラーニング）、仮想現実（VR、バーチャルリアリティ）等の生成合成型アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等のオンライン情報を生成する技術を指すが、次に列挙するものに限らない。（23条１項）
- チャプター生成、テキストスタイル変換、Q&A対話等のテキストコンテンツを生成・編集する技術。
- 音声合成、音声変換、音声属性編集等の音声コンテンツを生成・編集する技術。
- 音楽生成、シーンサウンド編集等の音声以外のコンテンツを生成・編集する技術。
- 顔生成、顔交換、人物属性編集、顔操作、ポーズ操作等の画像や映像コンテンツに含まれる生体的特徴を生成・編集する技術。
- 画像生成、画像強調、画像復元等の画像や映像コンテンツに非生体的特徴を生成・編集する技術。
- 3D再構成やデジタルシミュレーション等のデジタルキャラクターや仮想シーンを生成・編集する技術。
ディープフェイクサービス提供者とは、ディープフェイクサービスを提供する組織や個人を指す。（23条2項）
ディープフェイクサービス技術支援者とは、ディープフェイクサービスの技術支援を行う組織や個人を指す。（23条3項）
ディープフェイクサービス利用者とは、ディープフェイクサービスを利用して情報の作成、複製、公開、拡散する組織や個人を指す。（2条4項）
学習データとは、機械学習モデルに学習させるための注釈またはベンチマークデータセットを指す。（2条5条）
ディープフェイクサービスの提供に関する規定
いかなる組織または個人もディープフェイクサービスを利用して、法律、行政法規で禁止されている情報を生成、複製、公開、拡散してはならず、ディープフェイクサービスを利用して、国家の安全と利益を脅かす、国家のイメージを損なう、社会公共の利益を侵害する、経済と社会の秩序を乱す、他人の合法的な権益を侵害する等の法律、行政法規で禁止されている行為を行ってはならない。（6条）
ディープフェイクサービス提供者は、携帯電話番号、身分証番号、統一社会信用コード、国家ネットワーク身分証明公共サービス等の方法を通じて、法律に従ってディープフェイクサービス利用者の真実の身分情報を認証し、真実の身分情報の認証を行わない利用者に情報公開サービスを提供してはならない。（9条）
ディープフェイクサービス提供者は、ディープフェイクコンテンツの管理を強化し、技術的又は人の手によりサービス利用者の入力データ及び合成結果の監査を行わなければならない。違法かつ望ましくないコンテンツを発見した場合、法律に基づいて対処して関連する記録を保存し、すみやかにネットワーク情報部門と関連主管部門に報告し、あわせて利用者に警告、機能制限、サービス停止、アカウント閉鎖等の措置を行わなければならない。（10条）
データ・技術の管理に関する規定
ディープフェイクサービス提供者とディープフェイクサービス技術支援者は、学習データに個人情報が含まれる場合は個人情報保護に関する関連規定を順守しなければならない。顔や音声等の生体識別情報を編集する機能を提供する場合、サービス利用者が編集される個人に法に基づく通知を行い、個別の同意を得るよう提示しなければならない。（14条）
ディープフェイクサービス提供者及び次の機能を持つモデル、テンプレート等のツールを提供するディープフェイクサービス技術支援者は、法律に基づき自ら又は専門機関に委託してセキュリティ評価を行わなければならない。（15条2項）
- 顔や音声等の生体識別情報を生成・編集する。
- 国家の安全、国家のイメージ、国家の利益、社会公共の利益にかかわるような特殊な物体やシーン等の生体識別情報以外の情報を生成・編集する。
ディープフェイクサービス提供者は当該サービスを使用して生成・編集されたコンテンツに対し、技術的手段を用いてユーザーの使用には影響しない標識を付加し、法律、行政法規、国家の関連規定に従ってログを保存しなければならない。（16条）
ディープフェイクサービス提供者が次のサービスを提供する場合、公衆の混乱や誤認を招く恐れがあるため、生成・編集したコンテンツの合理的な位置や領域に目立つ方法で表示を行い、公衆にディープフェイクによる合成状況を提示しなければならない。（17条）
- スマート対話、スマート文章作成等の自然人を模してテキストを生成・編集するサービス。
- 人の声の合成や模倣等の言語の生成又は個人の身分特性を著しく変更する編集サービス。
- 顔生成、顔交換、顔操作、ポーズ操作等のキャラクター画像や映像の生成、又は個人の識別特性を著しく変更する編集サービス。
- 没入型のリアルなシーン等の生成・編集サービス。
- コンテンツを生成又は著しく変更する機能を有するその他のサービス。
管理に関する規定
世論属性又は社会動員能力を有するディープフェイクサービス提供者は、「インターネット情報サービスアルゴリズムレコメンド管理規定（互联网信息服务算法推荐管理规定）」に基づいて、届出登録及び変更、届出登録の取り下げ手続きを行わなければならない。ディープフェイクサービス技術支援者は、前項を参照して届出登録及び変更、届出登録の取り下げ手続きを行わなければならない。届出登録が完了したディープフェイクサービス提供者とディープフェイクサービス技術支援者は、サービス提供サイトやアプリ等の目立つ位置に届出登録番号を表示し、公開情報へのリンクを設置しなければならない。（19条）
ディープフェイクサービス提供者がオンライン上で世論属性又は社会動員能力を有する新製品、新アプリ、新機能を開発した場合、国家の関連規定に従ってセキュリティ評価を行わなければならない。（20条）
インターネット情報部門及び関連主管部門は、ディープフェイクサービスにおけるデータセキュリティ上のリスクが高まったと判断した場合、職責に基づきディープフェイクサービス提供者とディープフェイクサービス技術支援者に情報更新、ユーザーアカウント登録、又はその他の関連サービスの停止等の措置を要求することができる。（21条）
ディープフェイクサービス提供者とディープフェイクサービス技術支援者が本規定に違反した場合、関連する法律、行政法規に従って処罰し、重大な結果を引き起こした場合は法律に従って厳重に処罰する。治安管理行為違反に該当する場合、公安機関が法律に基づいて治安管理処分を行う。犯罪に該当する場合は、法律に基づいて刑事責任を追及する。（22条）
届出登録事業者リスト（2023年6月時点）
| 番号 | アルゴリズム名称 | 事業者種別 | 事業者名 | サービス名 | 届出登録番号 |
|---|---|---|---|---|---|
| 1 | 大麦小蜜智能客服算法 | サービス提供者 | 北京大麦文化传媒发展有限公司 | 大麦（アプリ） | 网信算备110101128387701230011号 |
| 2 | DraftAi绘图生成合成算法-1 | サービス提供者 | 图形起源（北京）科技有限公司 | Draft（WEB） | 网信算备110108007153201230015号 |
| 3 | 智谱ChatGLM生成算法 | サービス提供者 | 北京智谱华章科技有限公司 | ChatGLM（WEB） | 网信算备110108105858001230019号 |
| 4 | 美团电话智能客服算法 | サービス提供者 | 北京三快科技有限公司 | 美团（アプリ） | 网信算备110108224236601220017号 |
| 5 | 美团在线智能客服算法 | サービス提供者 | 北京三快科技有限公司 | 美团（アプリ） | 网信算备110108224236601220025号 |
| 6 | 快手短视频生成合成算法 | サービス提供者 | 北京快手科技有限公司 | 快手（アプリ） | 网信算备110108413760701220011号 |
| 7 | 百度文生图内容生成算法 | サービス提供者 | 北京百度网讯科技有限公司 | 文心一格（WEB） | 网信算备110108645502801230019号 |
| 8 | 百度PLATO大模型算法 | サービス提供者 | 北京百度网讯科技有限公司 | 小侃星球（アプリ） | 网信算备110108645502801230027号 |
| 9 | 剪映特效算法 | サービス提供者 | 北京抖音信息服务有限公司 | 西瓜视频(アプリ) 轻颜(アプリ) 剪映(アプリ) 抖音短视频(アプリ)等 | 网信算备110108823483901230015号 |
| 10 | 火山引擎智能美化特效算法 | 技術支援者 | 北京抖音信息服务有限公司 | — | 网信算备110108823483901230023号 |
| 11 | 出门问问语音合成类算法-2 | 技術支援者 | 出门问问信息科技有限公司 | — | 网信算备110108928160101230017号 |
| 12 | 淘票票小蜜智能客服算法 | サービス提供者 | 上海淘票票影视文化有限公司 | 淘票票（アプリ） | 网信算备310107361090201230011号 |
| 13 | 1688阿牛智能客服算法 | サービス提供者 | 杭州阿里巴巴广告有限公司 | 1688工业品(アプリ) 阿里巴巴(アプリ、WEB) | 网信算备330108445385801230017号 |
| 14 | 天猫小蜜智能客服算法 | サービス提供者 | 浙江天猫网络有限公司 | 手机天猫（アプリ） | 网信算备330110046572901220019号 |
| 15 | 钉钉语音识别算法 | サービス提供者 | 钉钉科技有限公司 | 钉钉（アプリ） | 网信算备330110391028001220019号 |
| 16 | 钉钉翻译算法 | サービス提供者 | 钉钉科技有限公司 | 钉钉（アプリ） | 网信算备330110391028001220027号 |
| 17 | 钉钉图像识别文字算法 | サービス提供者 | 钉钉科技有限公司 | 钉钉（アプリ） | 网信算备330110391028001220035号 |
| 18 | 钉钉智能客服算法 | サービス提供者 | 钉钉科技有限公司 | 钉钉（アプリ） | 网信算备330110391028001230039号 |
| 19 | 达摩院开放域自然对话合成算法 | 技術支援者 | 阿里巴巴达摩院（杭州）科技有限公司 | — | 网信算备330110507206401230019号 |
| 20 | 达摩院图像合成算法 | 技術支援者 | 阿里巴巴达摩院（杭州）科技有限公司 | — | 网信算备330110507206401230027号 |
| 21 | 达摩院交互式多能型合成算法 | 技術支援者 | 阿里巴巴达摩院（杭州）科技有限公司 | — | 网信算备330110507206401230035号 |
| 22 | 淘特小蜜智能客服算法 | サービス提供者 | 杭州拣值了电子商务有限公司 | 淘特（アプリ） | 网信算备330110525191901230019号 |
| 23 | 淘宝人生表情动作复刻算法 | サービス提供者 | 浙江淘宝网络有限公司 | 手机淘宝（アプリ） | 网信算备330110872770701220015号 |
| 24 | 菜鸟物流智能客服算法 | サービス提供者 | 杭州菜鸟物流信息科技有限公司 | 菜鸟(アプリ、ミニプログラム) | 网信算备330110977354701220013号 |
| 25 | 讯飞语音识别算法 | サービス提供者 | 科大讯飞股份有限公司 | 讯飞输入法(アプリ) | 网信算备340104764864601230013号 |
| 26 | 讯飞星火认知大模型算法 | 技術支援者 | 科大讯飞股份有限公司 | — | 网信算备340104764864601230021号 |
| 27 | 美图图像深度合成类算法 | サービス提供者 | 厦门美图网科技有限公司 | 美图设计室(アプリ) 美图秀秀(アプリ) 美颜相机(アプリ)等 | 网信算备350203814951001230015号 |
| 28 | UC小蜜智能客服算法 | サービス提供者 | 广州市动景计算机科技有限公司 | UC浏览器(アプリ) | 网信算备440106203028801230019号 |
| 29 | 易次元生成合成算法 | サービス提供者 | 广州网易计算机系统有限公司 | 易次元（アプリ） | 网信算备440106306769001230011号 |
| 30 | 酷狗音乐语音克隆算法 | サービス提供者 | 广州酷狗计算机科技有限公司 | 酷狗音乐(アプリ) | 网信算备440106592132901230019号 |
| 31 | 酷狗音乐歌声合成算法 | サービス提供者 | 广州酷狗计算机科技有限公司 | 酷狗音乐(アプリ) | 网信算备440106592132901230027号 |
| 32 | 音书语音识别算法 | サービス提供者 | 广州音书科技有限公司 | 音书（アプリ） | 网信算备440113773328701230015号 |
| 33 | 秀脸FacePlay人脸融合算法 | サービス提供者 | 深圳市鹏中科技有限公司 | 秀脸FacePlay(アプリ) | 网信算备440304083805101230015号 |
| 34 | 腾讯云人脸融合算法 | 技術支援者 | 深圳市腾讯计算机系统有限公司 | — | 网信算备440305295988701230013号 |
| 35 | 腾讯会议虚拟背景算法 | サービス提供者 | 深圳市腾讯计算机系统有限公司 | 腾讯会议（アプリ） | 网信算备440305295988701230021号 |
| 36 | 腾讯云语音合成算法 | 技術支援者 | 深圳市腾讯计算机系统有限公司 | — | 网信算备440305295988701230039号 |
| 37 | 腾讯音乐语音合成算法 | サービス提供者 | 腾讯音乐娱乐（深圳）有限公司 | QQ音乐（アプリ） 全民K歌（アプリ） | 网信算备440305544180001230019号 |
| 38 | 逗拍风格迁移算法 | サービス提供者 | 深圳市闪剪智能科技有限公司 | 逗拍（アプリ） | 网信算备440306133199401220023号 |
| 39 | 逗拍动作驱动算法 | サービス提供者 | 深圳市闪剪智能科技有限公司 | 逗拍（アプリ） | 网信算备440306133199401230035号 |
| 40 | 逗拍人脸融合算法 | サービス提供者 | 深圳市闪剪智能科技有限公司 | 逗拍（アプリ） | 网信算备440306133199401230043号 |
| 41 | 逗拍人脸属性编辑算法 | サービス提供者 | 深圳市闪剪智能科技有限公司 | 逗拍（アプリ） | 网信算备440306133199401230051号 |
互联网信息服务深度合成管理规定（中国語）http://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm
届出登録事業者リスト（中国語）http://www.cac.gov.cn/2023-06/20/c_1688910683316256.htm
