以下是对当前中国深度伪造治理新规的核心要点梳理

核心法律与监管框架

• 《网络安全法》：奠定了网络信息内容治理的基础，要求网络运营者对其平台内容负责。
• 《数据安全法》与《个人信息保护法》：规范数据（包括人脸等生物识别信息）的处理活动，强调知情同意，为深度伪造提供了法律依据。
• 《互联网信息服务深度合成管理规定》（2023年1月生效）：这是目前最直接、最核心的专门性规章。
  • 明确责任：规定了深度合成服务提供者（技术开发者/平台）、技术支持者和使用者的责任。
  • 标识义务：要求对生成的或显著编辑的信息内容，进行显著标识（打上“AI生成”水印），避免公众误解。
  • 实名制：要求深度合成服务使用者进行实名认证。
  • 禁止范围：明确禁止利用深度合成技术从事制作、复制、发布、传播违法和不良信息，包括制作虚假新闻、侵害他人肖像权、名誉权等。
• 《生成式人工智能服务管理暂行办法》（2023年8月生效）：
  • 将生成式AI（包括能生成文本、图像、声音、视频的模型）纳入监管。
  • 强调内容安全，要求生成内容符合主流价值，防止歧视。
  • 延续了安全评估、算法备案、标识要求等规定。

治理的核心原则与要求

• “谁提供，谁负责；谁使用，谁负责”：确立了责任链条。
• 透明化原则：强制性的AI生成内容标识，是国际通行的核心治理手段。
• 事前预防与事后追溯相结合：
  • 事前：服务提供者需进行安全评估、算法备案。
  • 事中审核、投诉举报机制。
  • 事后：保留日志，确保可追溯。
• 重点监管领域：新闻、金融、舆论等社会影响大的领域是监管重点。

对违法行为的处罚

• 违反上述规定的,监管部门（如网信办、工信部、公安部）可依法采取警告、通报批评、责令限期改正、罚款、暂停或终止服务等措施。
• 如果深度伪造行为构成诽谤、诈骗、侵犯公民个人信息、侵害肖像权名誉权等，将依据《刑法》、《治安管理处罚法》、《民法典》等追究相应的民事、行政乃至刑事责任。

技术治理与行业自律

• 鼓励研发和使用深度伪造检测技术。
• 大型科技平台（如抖音、腾讯、百度等）都已在其AI生成内容中落实标识要求，并建立了内部审核规范。
• 行业协会也在推动制定技术标准和伦理准则。

给普通公众的建议

• 提高媒介素养：对网络上过于逼真或离奇的音视频内容保持警惕，注意寻找“AI生成”标识。
• 核实来源：重要信息通过官方渠道交叉验证。
• 保护个人信息：谨慎上传高清人脸照片、声音等到不明确的平台。
• 积极举报：发现可疑的深度伪造内容，及时向平台或网信部门举报。

中国的深度伪造治理呈现出 “法律先行、技术赋能、平台落实、多元共治” 的特点，是全球在该领域监管较为积极和系统的国家之一，未来趋势可能包括：

• 检测技术与伪造技术的“道高一尺魔高一丈”式博弈将持续。
• 监管规则将随技术发展（如Sora等新一代视频生成模型的出现）而动态调整。
• 国际合作将愈发重要，因为网络信息跨境流动使得单一国家的治理存在局限。

新规的核心目标是：在防范技术滥用风险、保护公民权益和维护社会稳定的同时，为技术的健康发展和创新应用留出空间。 如果您需要了解某项规定的具体条款或最新案例，可以进一步查询国家网信办等部门的官方发布。

标签： 深度伪造 治理新规