Deepfake，一个由“deep learning"（深度学习） 和 "fake"（假） 组成的混合词，是一种基于人工智能的人物图像合成技术。它用一种被称为生成对抗网络（GAN）的机器学习技术将现有的图像和视频叠加到原来的图像和视频之上，现有视频和源视频的结合创造了许多假视频——现实中人（们)根本没有做过这些事情。
举个例子，创作出的这些假视频可以被用来展示一个清白的人拍了爱情动作片，或者通过改变手势让政治家看起来说了它从未说过的话。由于这些潜在的用处，deep fakes 通常被用于制造名人色情录像或者报复色情。deep fake 也可以被用来创建虚假新闻和恶意的恶作剧。
简而言之，就是利用人工智能生成换脸视频。
著名演员斯嘉丽·约翰逊在华盛顿邮报的采访中表示：“让任何一个人成为这项技术的攻击目标只是时间问题。”在过去的一年中，斯嘉丽·约翰逊已经被叠加到数十个性爱视频中，其中一个“走光”视频已经在PronHub（国外一个主要的色情网站）上观看了超过 150 万次。
目前，DeepFake 这项技术已经被用于各类女星上，国内的也不例外。
我们来看看 deepfake 在 Google Trends 的热度变化
2017 年 Deepfake 技术发布时，曾经掀起了一波高潮。后来由于这项技术极易被用于生成非自愿的色情视频，Reddit、YouTube 等主流网站纷纷屏蔽了 Deepfake，但源代码是开源的，PronHub 上 Deepfake 的热度也一直居高不下。
虽然这里只调取 Google Trends 的数据，不过在通用搜索引擎都是如此，在专业的网站自然更不必说。
那 Deepfake 的门槛有多高？换言之，任何人都可以做么？
Deepfake 的门槛门槛真的不高。
我们分别在 GitHub 和 YouTube 上搜索 “deepfake”。
我们可以很轻易地找到 deepfake
的项目地址 [2]
在 YouTube 上也很容易找到相关的教学视频。
潘多拉的魔盒已经打开了，只要有市场，一定会有人满足需求的。
甚至有人都做出了相关的 Windows
程序 fakeApp
、facesway
、deepfacelab
[3] [4]。
FakeApp 只需要一个包含Nvidia GPU的个人电脑、3~4GB的存储空间，就能生成换脸视频。无需任何 AI 的知识。
剩下的，只剩下训练的数据了。
明星、政治家等公众人物的影像资料非常多，所以极易获取大量的训练数据，这也就导致了明星色情视频和恶意政治视频的泛滥。
如果数据太少，生成的视频会有很多违背常识的地方，很容易看出来这是假视频。通常而言，训练数据越多，生成的视频越逼真。
数据量不够，这可能是阻止将 Deepfake 用在普通人身上最后的一道门槛了。
但也别高兴地太早。
且不说现在日新月异的技术发展速度可能导致未来模型更强大，只需要很少的数据就能生成即为逼真的视频。
想想我们平时在社交网络上面发表的那些照片，朋友圈、微博上你多久发一次自拍？。还有那些发布在各大平台的小视频，视频能够提取的数据量可是远大于照片的。
而且通过社交帐号，完全可以顺藤摸瓜找到社交关系网，他们可能也会在网络上发布含有你的合照。
所以如果你经常在社交网络上发自拍，如果有人要刻意针对你，潜伏几个月收集数据，你可能真的毫无察觉地就成为了某个奇怪影片的主角。
如果全过程被简化成「交钱」和「提供数据」，这完全可以催生出一个庞大的黑产市场。
毕竟，人生不如意事十之八九。
鉴别 Deepfake上文提到过，如果数据量不够的话，视频里还是有很多漏洞能够让我们一眼辨清这是假视频。
学界也在尝试用 AI 判断假视频，但是看看下面的新闻。
（当然，我们要相信魔高一尺，道高一丈）
此外，明星的假视频我们至少还知道这是假的，但如果这项技术是针对普通人的呢？
我们退一万步讲，假设我们真的可以鉴别假视频。对于普通人造成的伤害可以弥补么？
你快要升职了，突然网上流出一堆你的小视频而且传到了公司。尽管第三方已经确定了视频是伪造的，但那又如何？同事们看你的眼神还会和以前一样么？你还能以原来的心态在公司里呆着么？
再想想现在谣言和辟谣之间的斗争，谣言动动嘴，辟谣跑断腿。这还只是消息的传播，假视频的传播应该不会输于消息吧？而且，恐怕在看到过视频的人里面，能够意识到它是假视频的人只会是少数。
互联网没有删除键。
当视频被传上网络之后，一切，就已经是抹不掉的了。
我们能做什么？说起来挺无奈的，我们能做的很少。毕竟视频的制作权是掌握在别人手中的。
但是就像我在这篇 在网上我们应该怎样保护自己的隐私 里面曾经提到的一样，对于绝大多数人而言，我们的个人信息都是可以被获取的，只不过所耗费的成本不同。我们能做的也只是尽可能提高获取成本。 不过至少我们可以做到
1. 尽量少发含有自己正面肖像的照片、视频到社交网络上。
2. 社交网络上发布的照片、视频最好能够对陌生人不可见。
3. 抵制 Deepfake 用于恶性诽谤，避免对当事人造成二次伤害。
结语引用《技术垄断：文明向技术投降》里面的一段话做结语吧。
事实上，大多数人认为技术是个可靠的朋友。这其中有两个原因。首先，技术的确是个朋友。技术使生活变得更加便利和干净，同时也延长了人类的寿命。对于这样的朋友，我们还能提出更多的要求吗？其次，基于技术与文化之间长久、密切和必然的联系，人们不会仔细检查技术会带来什么样的后果。技术这个朋友要求我们信任它、服从它，而大多数人也愿意这么做，因为它为我们带来了丰厚的馈赠。然而，这个朋友也有其黑暗的一面。它送来的礼物需要我们付出沉重的代价。
如果用最富于戏剧性的语言进行表述的话，我们可以这样谴责技术：技术不受控制的发展摧毁了人类至关重要的根源。技术所创造的文化缺乏道德根基，它破坏了某些心理过程和社会关系，破坏了人类生存的价值根基。
总而言之，技术垄断既是朋友，又是敌人。
往期荐读
参考资料
zj1123581321
发表于 2019-2-27 17:29:59
从前慢
发表于 2019-2-28 09:20:57
于睿瀛
发表于 2019-2-27 17:32:13
bingxuan
发表于 2019-2-28 15:44:44
