2024年5月23日发(作者：)

深度伪造技术的法律挑战及应对

深度伪造技术（Deepfake）的出现，使得篡改或生成高度逼真且难以

甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全

威胁，美国已在推动相关立法，以期阻止该项技术的不当利用。对此，

可以通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律

责任等举措包容审慎监管和治理，避免该项技术的滥用，并促进该项技

术在教育、文创、娱乐等方面的积极作用。

一、深度伪造的出现和应用

（一）深度伪造是人工智能技术进步的产物

近两年来，随着以机器学习为代表的人工智能技术的发展，人工智能自

动生成内容取得了显著的进步，不仅内容的质量得到了提高，而且内容

的形式日益多元化，例如生成文字、图像、声音、视频等。在此背景下，

深度伪造技术“应运而生”，可以实现图像、声音、视频的篡改、伪造

和自动生成，产生高度逼真且难以甄别的效果。深度伪造的最常见方式

是AI换脸技术，例如deepfake、face2face等；此外，还包括语音模

拟、人脸合成、视频生成等，以下统称深度伪造技术。

作为人工智能技术发展到一定阶段的产物，深度伪造的兴起主要归功于

生成对抗网络（GAN）的出现和进步。GAN算法上同时搭载着两个神

经网络——生成器，基于一个数据库自动生成模拟该数据库中数据的样

本；识别器，评估生成器生成的数据的真伪。两者在互相博弈学习中产

生大规模和高精确度的输出。随着GAN算法的不断成熟和日益复杂化，

无论是图像还是声音、视频都可以被伪造或自动合成，并可达到几乎不

能辨别真伪的程度。[1]

（二）深度伪造在教育、文创、客服、娱乐等诸多领域具有积极应用价

值

深度伪造技术或者说内容合成技术具有很大的正向应用潜力。在教育方

面，逼真的虚拟教师让数字教学更具互动性和趣味性。此外，借助深度

伪造技术，可以以充满想象力和更具吸引力的方式向学生传播知识；例

如，合成的历史人物演讲视频可以再现历史场景，让受众更具代入感;

借助深度伪造技术修改电影素材，以更灵活生动的形式呈现教学内容。

[2]

在娱乐方面，深度伪造技术使得对一个人的自我进行逼真的模拟成为可

能，从而可为个人创造虚拟化身（avatar），并能通过虚拟化身参与媒

体中各类社交活动，创造出超越现实的个性化体验和化身体验。此外，

深度伪造技术可以让电影、纪录片等艺术创作突破时空限制，以更真实

的方式呈现，也能实现替身演员演出等效果；可以给通过视频进行的批

评、讽刺、戏仿等提供新的表达形式；可以创造虚拟主播来播报新闻、

天气预报等内容；也可以给医疗、零售、娱乐等领域提供更具亲和力的

人形问诊机器人、虚拟客服、虚拟偶像等。而一旦这一技术被滥用，则

可能给国家安全和公民、企业权益带来新的风险。