2024年4月6日发(作者：)

专题

计算机与网络

AI换脸技术有多恐怖

■常莽

最近，AI换脸应用ZAO的出现，引起了轩然大波。ZAO的

最大卖点在于可以将视频中的人脸，通过AI算法PS成另一个

人的相貌。只需要把照片上传到ZAO当中，就能够将视频P成

相应的脸，可谓是操作简单、效果明了。也因为如此，ZAO一出

现就引来了人们的激烈讨论，毕竟谁也保不准自己会不会被P

进小电影中，变成奇怪剧情的主人公。

虽然ZAO再次点燃了AI换脸技术的讨论热潮，但是AI

换脸引发争议，已经不是什么新鲜事。早在ZAO上架之前，

DeepFakes就已经将AI换脸的恐怖之处刻入人心。为何AI换

脸会引起如此程度的惊恐？AI换脸的风行意味着什么？今天就

一起来谈谈相关话题吧。

莫名其妙成为了色情片里的主演；又例如国内很多人都印象深

刻的杨幂版小龙女，令人惊叹演员换脸的奇效。

AI换脸目前已经在网络上泛滥到怎样的一种程度呢？我们

从几个细节就可以看到。首先是AI换脸色情视频的广为流传，

俗语云，色情是互联网的第一生产力，AI换脸技术的出现，令色

情内容的制造者们迎来了狂欢。尽管各网站可能是出于法律风

险方面的考虑，纷纷声明禁止该类换脸视频的上传，但止不住

人多势众，时至今日仍可在这些网站上找到换脸的视频。

而除了色情网站外，网络的多个角落也蔓延着AI换脸视

频。例如在国内的视频站，只要用“AI换脸”为关键词搜索，轻松

就能找到大量使用DeepFakes技术生成的视频。而如果想要制

造AI换脸视频，并不需要钻研代码，甚至不需要安装FakeApp。

在淘宝上，就有很多商家提供AI换脸视频制作服务，只需要几

块钱或十几块钱，就能够定制一部换脸视频。

简而言之，DeepFakes技术的出现为AI换脸视频的流行打

下了基础，而FakeApp的诞生则让AI换脸视频成为了真正意

义上的爆款。而现在，ZAO的出现，极有可能将AI换脸视频的

风险推到一个新的高度。

和“前辈们”相比，ZAO的门槛进一步降低。首先，ZAO不

需要复杂的配置，使用手机APP即可开始制作；其次，它对硬件

AI换脸技术是如何走向泛滥的

ZAO将AI换脸技术再次放置到了聚光灯下，但这并非是

AI换脸首次走上历史舞台。早在2017年底，国外论坛就已经出

现了ID为“deepfakes”的用户，发布了通过机器学习来更换视

频人脸的AI算法。不过当时该技术的使用门槛还比较高，需要

编译代码等操作；而在数个月后，使用管理DeepFakes技术的简

易版AI换脸工具FakeApp出现了，就算是普通用户，也能够顺

利操作。

FakeApp令AI换脸的使用门槛大幅下降，不过它还是需要

一定的准备工作。首先它需要安装额外的运行库，其次它对硬

件有需求，需要高性能显卡参与运算，其中对N卡的兼容最好。

而FakeApp还需要较新版的Windows10系统才可以安装，运

行起来还得等待一段时间———过程越久效果越好，毕竟机器学

习还是需要足够的时长和样本，最后，FakeApp就可以生成几乎

以假乱真的AI换脸视频了。

FakeApp的出现令AI换脸视频一度犹如黄河泛滥一发不

可收拾，不少名人都深受其害。例如大名鼎鼎的“神奇女郎”，就

没有特别大的需求，ZAO将视频制作的运算放到了服务器上，

用户不需要准备高性能的硬件；最后，它的生成速度飞快，视频

上传后很快就得出结果。

在ZAO当中，AI换脸视频即点即成，制作已然不存在门

槛。也正因如此，在AI换脸视频已经泛滥的现状下，ZAO的降

临意味着对这股潮流进一步推波助澜，令人平添了几份恐慌。

AI换脸技术会带来怎样的问题

抛开风险来说，AI换脸视频还是非常有趣的。例如用在电

影上，就等于换了个演员，想要体验颜值高但演技不在线的演

员真正会演戏的样子，可能还真得靠这一技术；又例如把自己

或者朋友熟人的脸换到某个视频上，在私密间分享，也不失为

一种有趣的玩笑———这可比P表情包欢乐多了。

然而这一切，都是忽视风险后的论调，而凭心而论的话，制

作AI换脸视频是没办法不考虑风险的。

首先这对于信息的真实性形成严峻的挑战。PS发明后，有

图不再有真相；而AI视频换脸技术的出现，则让视频也开始变

得镜花水月了起来———人们普遍认为视频可以担当“实锤”，而

16

计算机与网络

现在这把实锤竟可凭空制造，对于本来就假消息满天飞的互联

网来说，这无疑会造成进一步的信任崩坏。

其次，这会大大增加侵犯肖像权的可能，正如文章一开头

所说，没人愿意自己的脸庞出现在莫名其妙的视频当中。和多

用途的PS等修图软件不同，AI换脸技术的功能只有一个，那

就是换脸，从这个角度来说它的存在天然就是一种对肖像权的

威胁。而网站之所以对AI换脸视频如临大敌，肖像权风险就是

一大原因。

再者，ZAO这样的工具还徒增了信息安全的相关隐患。这

主要涉及两方面。一是ZAO这样的在线处理机制，流程上必须

上传相应肖像，甚至还要填写详细的实名制信息，而服务商是

否能妥善保管相关方面信息是个未知数，使用ZAO只是为了

娱乐，付出这样的风险代价似乎得不偿失；二是类似技术生成

的伪视频，是否会成为一把破解人脸识别大门的钥匙？尽管现

在生成的视频有一定局限性，但从机理上来看，假视频的确比

假照片更具这方面的可能。

换言之，AI换脸技术或许玩着有趣，然而真正的问题在

于，这样风险百出的技术我们到底玩不玩得起？这非常值得大

家深思。

AI换脸技术可能仅仅只是个开始

由于上述提到的风险，AI换脸技术已经在相当程度上引

起恐慌。也难怪，当得知该技术能够接近完美捏造假视频的时

候，担心自己的言行是否会被虚构，是很正常的自然反应。然

而，在警惕AI换脸技术的同时，我们或许还需要意识到，AI技

术仍在不断发展，目前的AI换脸视频或许远非终点。

当前的AI换脸技术已经达到了惊人的水准，但目前大多

数的AI换脸仍只涉及视觉。然而事情正在发生变化———AI换

脸已经成为了现实，而AI变声也开始崭露头角。谷歌之前曾经

研究过AI变声的相应技术，但并没有大规模实装；而国内厂商

则更加激进，不少研究输入法的厂商都已经尝试在产品当中推

广AI变声功能。在一些输入法当中，现在就可以找到AI变声

的开关，输入一段语音后，等待片刻即可生成特定音调音色的

语音，拟真度相当出色。

当然，此类产品限定了AI变声的模版，但声音的自由变

换、修改相对于我们来说也并不是那么遥远。例如“”

这个网站，就提供了AI变声服务，甚至连奥巴马的声音都能完

美模仿。

所使用的变声技术和DeepFakes类似，都使用

了神经网络机器学习算法来训练模型，所拟真出来的声音真假

难辨。另外还有“”这个网站，也提供了类似的服务，

而且所提供的模仿对象更加丰富，据悉多达上千种，包括特朗

普、奥巴马和克林顿等名人的声音都可以被模仿。

专题

可见，AI变声技术已经逐渐成熟，它和AI换脸技术结合

后，会形成威力无穷的组合拳。在之前，就有人结合AI换脸、AI

变声，伪造一段虚假的奥巴马演讲视频。视频当中，奥巴马指斥

特朗普是个“笨蛋”，令人震惊。这段视频在国外引起了轰动，如

果没有特别标注，恐怕很多人会信以为真。

而这仍不是AI换脸的终点。目前的AI换脸、变声仍需要

一段时间的运算，难以和真人互动。而当AI换脸、变声可以实

时生效时，恐怕连视频电话的真伪都难以分辨，而人脸识别也

将面临着严峻挑战。到了这步，AI换脸、变声技术极可能成为犯

罪分子的诈骗、勒索利器。

通过大数据和机器学习，AI将特定信息解构后，重构成为

难以分辨的虚假信息，当相应的技术成熟后，虚假信息可以源

源不断地生成，如此高质量的虚假信息能够大批量生产，在历

史上可谓是前所未有。

然而尽管人们对此感到恐慌，但相应的应用、开发却并没

有停下脚步。ZAO自不必说，直接把这样高风险的技术做成了

娱乐APP，令人们前所未有近距离接触到了AI构建的虚假视

频；而行业中的巨头也视此为机遇，苹果、谷歌、Facebook和微

软等“大佬”都爆出过利用用户数据训练语音、语言模型的新

闻，而近年也可以看到AI自动应答的逻辑性、自动生成语音的

拟真度大幅上涨，用AI构建一个完全虚拟的人格，似乎也为期

不远。

在未来，我们或许不仅可以看到逼真的AI换脸、AI变声，

甚至可能连应答都由AI来完成。当AI能自动生成以假乱真的

面容、声音乃至语言的时候，互联网乃至整个社会该如何应对

这种身份信息的混乱？现在仍没有一个好的应对方案。

就在不久前，笔者的担心成真了。《华尔街日报》的最新报

道显示，2019年3月份，有犯罪分子使用AI技术成功模仿了英

国某能源公司在德国母公司CEO的声音，诈骗了220000欧元

（约1730806人民币）。仅仅依靠AI变声就能酿造出一宗如此

重大的诈骗案，AI骗术的威力可见一斑。

当诈骗短信进化为AI假视频、还能够自动应答的时候，我

们是否还有方法防范？对于AI拟真技术的运用，人们应该更加

谨慎，这不是一项可以随便曝光于公众视野的技术。

17