中国のディープフェイク管理規定と登録事業者

対象と定義

中国国内において、ディープフェイク技術を応用したインターネット情報サービス（以下「ディープフェイクサービス」という）を提供する場合、本規定を適用する。（2条）

ディープフェイク技術とは、深層学習（ディープラーニング）、仮想現実（VR、バーチャルリアリティ）等の生成合成型アルゴリズムを使用して、テキスト、画像、音声、映像、仮想シーン等のオンライン情報を生成する技術を指すが、次に列挙するものに限らない。（23条１項）

‣チャプター生成、テキストスタイル変換、Q&A対話等のテキストコンテンツを生成・編集する技術。
‣音声合成、音声変換、音声属性編集等の音声コンテンツを生成・編集する技術。
‣音楽生成、シーンサウンド編集等の音声以外のコンテンツを生成・編集する技術。
‣顔生成、顔交換、人物属性編集、顔操作、ポーズ操作等の画像や映像コンテンツに含まれる生体的特徴を生成・編集する技術。
‣画像生成、画像強調、画像復元等の画像や映像コンテンツに非生体的特徴を生成・編集する技術。
‣3D再構成やデジタルシミュレーション等のデジタルキャラクターや仮想シーンを生成・編集する技術。
‣ディープフェイクサービス提供者とは、ディープフェイクサービスを提供する組織や個人を指す。（23条2項）

ディープフェイクサービス技術支援者とは、ディープフェイクサービスの技術支援を行う組織や個人を指す。（23条3項）

ディープフェイクサービス利用者とは、ディープフェイクサービスを利用して情報の作成、複製、公開、拡散する組織や個人を指す。（2条4項）

学習データとは、機械学習モデルに学習させるための注釈またはベンチマークデータセットを指す。（2条5条）

ディープフェイクサービスの提供に関する規定

いかなる組織または個人もディープフェイクサービスを利用して、法律、行政法規で禁止されている情報を生成、複製、公開、拡散してはならず、ディープフェイクサービスを利用して、国家の安全と利益を脅かす、国家のイメージを損なう、社会公共の利益を侵害する、経済と社会の秩序を乱す、他人の合法的な権益を侵害する等の法律、行政法規で禁止されている行為を行ってはならない。（6条）

ディープフェイクサービス提供者は、携帯電話番号、身分証番号、統一社会信用コード、国家ネットワーク身分証明公共サービス等の方法を通じて、法律に従ってディープフェイクサービス利用者の真実の身分情報を認証し、真実の身分情報の認証を行わない利用者に情報公開サービスを提供してはならない。（9条）

ディープフェイクサービス提供者は、ディープフェイクコンテンツの管理を強化し、技術的又は人の手によりサービス利用者の入力データ及び合成結果の監査を行わなければならない。違法かつ望ましくないコンテンツを発見した場合、法律に基づいて対処して関連する記録を保存し、すみやかにネットワーク情報部門と関連主管部門に報告し、あわせて利用者に警告、機能制限、サービス停止、アカウント閉鎖等の措置を行わなければならない。（10条）

データ・技術の管理に関する規定

ディープフェイクサービス提供者とディープフェイクサービス技術支援者は、学習データに個人情報が含まれる場合は個人情報保護に関する関連規定を順守しなければならない。顔や音声等の生体識別情報を編集する機能を提供する場合、サービス利用者が編集される個人に法に基づく通知を行い、個別の同意を得るよう提示しなければならない。（14条）

ディープフェイクサービス提供者及び次の機能を持つモデル、テンプレート等のツールを提供するディープフェイクサービス技術支援者は、法律に基づき自ら又は専門機関に委託してセキュリティ評価を行わなければならない。（15条2項）

顔や音声等の生体識別情報を生成・編集する。
国家の安全、国家のイメージ、国家の利益、社会公共の利益にかかわるような特殊な物体やシーン等の生体識別情報以外の情報を生成・編集する。
ディープフェイクサービス提供者は当該サービスを使用して生成・編集されたコンテンツに対し、技術的手段を用いてユーザーの使用には影響しない標識を付加し、法律、行政法規、国家の関連規定に従ってログを保存しなければならない。（16条）

ディープフェイクサービス提供者が次のサービスを提供する場合、公衆の混乱や誤認を招く恐れがあるため、生成・編集したコンテンツの合理的な位置や領域に目立つ方法で表示を行い、公衆にディープフェイクによる合成状況を提示しなければならない。（17条）

スマート対話、スマート文章作成等の自然人を模してテキストを生成・編集するサービス。
人の声の合成や模倣等の言語の生成又は個人の身分特性を著しく変更する編集サービス。
顔生成、顔交換、顔操作、ポーズ操作等のキャラクター画像や映像の生成、又は個人の識別特性を著しく変更する編集サービス。
没入型のリアルなシーン等の生成・編集サービス。
コンテンツを生成又は著しく変更する機能を有するその他のサービス。

管理に関する規定

世論属性又は社会動員能力を有するディープフェイクサービス提供者は、「インターネット情報サービスアルゴリズムレコメンド管理規定（互联网信息服务算法推荐管理规定）」に基づいて、届出登録及び変更、届出登録の取り下げ手続きを行わなければならない。ディープフェイクサービス技術支援者は、前項を参照して届出登録及び変更、届出登録の取り下げ手続きを行わなければならない。届出登録が完了したディープフェイクサービス提供者とディープフェイクサービス技術支援者は、サービス提供サイトやアプリ等の目立つ位置に届出登録番号を表示し、公開情報へのリンクを設置しなければならない。（19条）

ディープフェイクサービス提供者がオンライン上で世論属性又は社会動員能力を有する新製品、新アプリ、新機能を開発した場合、国家の関連規定に従ってセキュリティ評価を行わなければならない。（20条）

インターネット情報部門及び関連主管部門は、ディープフェイクサービスにおけるデータセキュリティ上のリスクが高まったと判断した場合、職責に基づきディープフェイクサービス提供者とディープフェイクサービス技術支援者に情報更新、ユーザーアカウント登録、又はその他の関連サービスの停止等の措置を要求することができる。（21条）

ディープフェイクサービス提供者とディープフェイクサービス技術支援者が本規定に違反した場合、関連する法律、行政法規に従って処罰し、重大な結果を引き起こした場合は法律に従って厳重に処罰する。治安管理行為違反に該当する場合、公安機関が法律に基づいて治安管理処分を行う。犯罪に該当する場合は、法律に基づいて刑事責任を追及する。（22条）