深度伪造是什么

深度伪造(Deepfake)是“深度学习”(Deep Learning)与“伪造”(Fake)的结合体。它是一种利用人工智能技术，特别是生成对抗网络(GAN)，来生成或篡改高度逼真的虚假音视频内容的技术。

简单来说，深度伪造技术能让AI“学会”模仿一个人的外貌、声音甚至行为，并将其“移植”到另一个人身上，创造出“眼见未必为实，耳听未必为真”的虚假内容。

深度伪造的核心技术是生成对抗网络（GAN）。你可以把它想象成一场AI内部的“猫鼠游戏”：

这两个网络会不断地互相“对抗”和学习。生成器努力让伪造内容更逼真，以骗过判别器;判别器则努力提升自己的鉴别能力。经过成千上万次的迭代，生成器最终能创造出连人类肉眼都难以分辨的超逼真内容。

深度伪造技术主要应用于以下几个方面：

表格

形式	说明	示例
视频伪造	最常见的是AI换脸，将一个人的面部特征替换到另一个人的视频中。	将名人的脸换到电影角色上，或制作虚假的名人讲话视频。
音频伪造	也称为语音克隆，通过AI学习目标人物的声音、语调、口音等，合成其讲话内容。	模拟某位公司高管的声音，打电话给员工要求紧急转账。
图像伪造	生成或修改静态图片，例如AI生成不存在的“假人”头像，或对现有照片进行修改。	制作虚假的个人证件照，或将人物置于一个从未去过的场景中。

面对日益严峻的深度伪造威胁，全球正在从法律、技术和伦理等多个层面构建防御体系。

法律规制
- 中国、欧盟、美国、韩国等国家和地区已相继出台或正在制定相关法规，要求对AI生成内容进行强制标识，并严厉打击非法使用行为。
- 例如，德国正加速立法，计划将制作和传播未经同意的AI生成不雅内容正式纳入刑事犯罪范畴。
技术对抗
- 主动防御：在内容发布前，给原始图片或视频添加人眼难以察觉的“对抗性噪声”，干扰深度伪造算法的正常工作。
- 被动检测：开发专门的检测工具，通过分析视频中人物的眨眼频率、心率变化、面部光影等细微特征，来识别伪造痕迹。
伦理与治理
- 专家呼吁建立“技术—法律—伦理”三位一体的协同治理体系，在技术研发阶段就嵌入伦理规范，推广数字水印等溯源技术，从源头到传播全链条进行管控。