Deepfake,一个由“deep learning"(深度学习) 和 "fake"(假) 组成的混合词,是一种基于人工智能的人物图像合成技术。它用一种被称为生成对抗网络(GAN)的机器学习技术将现有的图像和视频叠加到原来的图像和视频之上,现有视频和源视频的结合创造了许多假视频——现实中人(们)根本没有做过这些事情。
举个例子,创作出的这些假视频可以被用来展示一个清白的人拍了爱情动作片,或者通过改变手势让政治家看起来说了它从未说过的话。由于这些潜在的用处,deep fakes 通常被用于制造名人色情录像或者报复色情。deep fake 也可以被用来创建虚假新闻和恶意的恶作剧。
简而言之,就是利用人工智能生成换脸视频。
著名演员斯嘉丽·约翰逊在华盛顿邮报的采访中表示:“让任何一个人成为这项技术的攻击目标只是时间问题。”在过去的一年中,斯嘉丽·约翰逊已经被叠加到数十个性爱视频中,其中一个“走光”视频已经在PronHub(国外一个主要的色情网站)上观看了超过 150 万次。
目前,DeepFake 这项技术已经被用于各类女星上,国内的也不例外。
我们来看看 deepfake 在 Google Trends 的热度变化
2017 年 Deepfake 技术发布时,曾经掀起了一波高潮。后来由于这项技术极易被用于生成非自愿的色情视频,Reddit、YouTube 等主流网站纷纷屏蔽了 Deepfake,但源代码是开源的,PronHub 上 Deepfake 的热度也一直居高不下。
虽然这里只调取 Google Trends 的数据,不过在通用搜索引擎都是如此,在专业的网站自然更不必说。
那 Deepfake 的门槛有多高?换言之,任何人都可以做么?
Deepfake 的门槛门槛真的不高。
我们分别在 GitHub 和 YouTube 上搜索 “deepfake”。
我们可以很轻易地找到 deepfake
的项目地址 [2]
在 YouTube 上也很容易找到相关的教学视频。
潘多拉的魔盒已经打开了,只要有市场,一定会有人满足需求的。
甚至有人都做出了相关的 Windows
程序 fakeApp
、facesway
、deepfacelab
[3] [4]。
FakeApp 只需要一个包含Nvidia GPU的个人电脑、3~4GB的存储空间,就能生成换脸视频。无需任何 AI 的知识。
剩下的,只剩下训练的数据了。
明星、政治家等公众人物的影像资料非常多,所以极易获取大量的训练数据,这也就导致了明星色情视频和恶意政治视频的泛滥。
如果数据太少,生成的视频会有很多违背常识的地方,很容易看出来这是假视频。通常而言,训练数据越多,生成的视频越逼真。
数据量不够,这可能是阻止将 Deepfake 用在普通人身上最后的一道门槛了。
但也别高兴地太早。
且不说现在日新月异的技术发展速度可能导致未来模型更强大,只需要很少的数据就能生成即为逼真的视频。
想想我们平时在社交网络上面发表的那些照片,朋友圈、微博上你多久发一次自拍?。还有那些发布在各大平台的小视频,视频能够提取的数据量可是远大于照片的。
而且通过社交帐号,完全可以顺藤摸瓜找到社交关系网,他们可能也会在网络上发布含有你的合照。
所以如果你经常在社交网络上发自拍,如果有人要刻意针对你,潜伏几个月收集数据,你可能真的毫无察觉地就成为了某个奇怪影片的主角。
如果全过程被简化成「交钱」和「提供数据」,这完全可以催生出一个庞大的黑产市场。
毕竟,人生不如意事十之八九。
鉴别 Deepfake上文提到过,如果数据量不够的话,视频里还是有很多漏洞能够让我们一眼辨清这是假视频。
学界也在尝试用 AI 判断假视频,但是看看下面的新闻。
(当然,我们要相信魔高一尺,道高一丈)
此外,明星的假视频我们至少还知道这是假的,但如果这项技术是针对普通人的呢?
我们退一万步讲,假设我们真的可以鉴别假视频。对于普通人造成的伤害可以弥补么?
你快要升职了,突然网上流出一堆你的小视频而且传到了公司。尽管第三方已经确定了视频是伪造的,但那又如何?同事们看你的眼神还会和以前一样么?你还能以原来的心态在公司里呆着么?
再想想现在谣言和辟谣之间的斗争,谣言动动嘴,辟谣跑断腿。这还只是消息的传播,假视频的传播应该不会输于消息吧?而且,恐怕在看到过视频的人里面,能够意识到它是假视频的人只会是少数。
互联网没有删除键。
当视频被传上网络之后,一切,就已经是抹不掉的了。
我们能做什么?说起来挺无奈的,我们能做的很少。毕竟视频的制作权是掌握在别人手中的。
但是就像我在这篇 在网上我们应该怎样保护自己的隐私 里面曾经提到的一样,对于绝大多数人而言,我们的个人信息都是可以被获取的,只不过所耗费的成本不同。我们能做的也只是尽可能提高获取成本。 不过至少我们可以做到
1. 尽量少发含有自己正面肖像的照片、视频到社交网络上。
2. 社交网络上发布的照片、视频最好能够对陌生人不可见。
3. 抵制 Deepfake 用于恶性诽谤,避免对当事人造成二次伤害。
结语引用《技术垄断:文明向技术投降》里面的一段话做结语吧。
事实上,大多数人认为技术是个可靠的朋友。这其中有两个原因。首先,技术的确是个朋友。技术使生活变得更加便利和干净,同时也延长了人类的寿命。对于这样的朋友,我们还能提出更多的要求吗?其次,基于技术与文化之间长久、密切和必然的联系,人们不会仔细检查技术会带来什么样的后果。技术这个朋友要求我们信任它、服从它,而大多数人也愿意这么做,因为它为我们带来了丰厚的馈赠。然而,这个朋友也有其黑暗的一面。它送来的礼物需要我们付出沉重的代价。
如果用最富于戏剧性的语言进行表述的话,我们可以这样谴责技术:技术不受控制的发展摧毁了人类至关重要的根源。技术所创造的文化缺乏道德根基,它破坏了某些心理过程和社会关系,破坏了人类生存的价值根基。
总而言之,技术垄断既是朋友,又是敌人。
往期荐读
参考资料