什么是深度伪造，为什么它很危险以及如何识别它

今天我们讨论深度造假，它已经成为一种常见且熟悉的现象。得益于这项技术，信息操纵达到了一个新的水平。

你见过伊丽莎白女王在新年致辞广播时在桌子上跳舞吗？或者听金正恩关于民主的演讲，或者观看萨尔瓦多·达利谈论他的死？

所有这些令人惊叹的视频都有一个共同点——它们都是假的。 Deepfake 是一种以视频、音频和照片的形式创建和发布虚假信息的技术。现在做到这一点变得越来越容易，因此我们为您准备了一份关于如何在互联网上创建、识别和搜索深度造假视频的指南。

什么是深度造假

深度伪造是指不真实的照片、视频或音频材料。 Deepfake 使用人工智能 (AI) 进行深度学习，在视频和其他数字媒体材料中创建一个人的肖像。它是由基于语音、声音、视频或照片的真实样本的算法创建的，这些样本被拼接在一起。该算法从不同的地方获取选定的信息，然后将其组合成一种材料。结果，基于各种真实数据的组合，创建了新的（不是真实的）东西。

但这还不是全部。 Deepfake 还可以从头开始“绘制”照片，例如通过创建从未存在过的角色的面孔。

其目的是什么 除其他外，Deepfake 用于在互联网上传播错误信息（例如，有关政治人物或事件的信息）、盗窃（例如，虚假语音命令）以及制作色情内容（涉及名人）。它可用于教育和娱乐目的。

阅读： 量子物理学 100 年：从 1920 年的理论到计算机

它是如何起作用的？

一般来说，创建 Deepfake 材料有两种方法。第一种方法使用两种算法。第一个算法（编码器）寻找两个图像的共同特征（那些需要组合成一个的图像），然后第二个算法（解码器）可以将它们传输到新创建的图像。例如，如果我们想创建一个演员像我们一样移动的视频，编码器会从视频中我们跳舞的动作中获取动作，解码器会用演员的脸替换我们的脸，让他们重现我们的动作。这里的关键是复制到新图像的选定动作（例如，动作、手势、面部表情）。

第二种方法是借助生成对抗网络（GAN）（GAN），其中两种算法协同工作。第一个称为生成器，因为它使用一般信息创建结合其独特特征（人有身体、脸部和眼睛）的图像（例如人的图像）。第二个算法是鉴别器，用于评估生成器提供给它的图像是否真实。

随着时间的推移，这两种算法都变得越来越发达，因此随着它们的学习，它们会自我改进。如果生成器经过训练，使得鉴别器无法识别假照片（认为它是真实的），则过程完成。

在 GitHub（一个脚本、程序和代码的开源社区）上可以找到大量假冒软件。其中一些程序仅用于娱乐目的，因此深度伪造的创建并不被禁止，但许多程序可用于犯罪目的。

许多专家认为，未来，随着技术的发展，深度造假将变得更加困难，并且可能对社会造成更严重的威胁，例如干扰选举、制造政治紧张局势或犯罪活动。

Deepfakes 的威胁

Deepfakes 出现于 2017 年，当时一个名为 deepfake 的用户在 Reddit 上发布了几部有名人参与的色情影片，其中包括： Scar约翰逊、盖尔·加朵和泰勒 Swift自那时起，这个行业就开始迅速发展，因为几乎任何人都可以制作 deepfake 影片。

https://youtu.be/IvY-Abd2FfM

近年来，深度造假技术已经发展到越来越难以辨别视频是捏造的还是真人录制的程度。一个例子是包含伊丽莎白二世留言或巴拉克·奥巴马演讲的视频，这些视频很快就在许多网站上发布。带有美国前总统声明的视频讨论了互联网上发布的虚假信息和虚假新闻可能造成的全球威胁问题。在 BuzzFeedVideos 频道发布的一份材料中，美国导演兼演员乔丹·皮尔成为美国第 44 任总统的代言人。然而，人工智能已经能够根据应该出现在假电影中的人的档案录音来生成声音。

此类先进技术可能成为网络犯罪分子和在线诈骗者手中的危险工具。发布重要政治人物的虚假演讲视频可能会在国际层面造成真正的损害。此类基于深度造假技术的电影可以制造外交冲突和丑闻，从而影响公众舆论和人们的行为。

另一个潜在威胁是成人内容，它始终在虚拟空间中产生最多的流量。深度造假技术如此迅速地进入互联网也就不足为奇了。根据荷兰网络安全公司 Deeptrace 的一份报告，使用 Deepfake 技术创建的虚假视频中 96% 都是此类主题的内容。最常见的是，电影明星、运动员、甚至政治家和政府官员的图像被用来制作此类材料。

如何生成深度假视频？

如果有人可以制作 Deepfake 视频，那么可以在家制作吗？肯定是的，但它们的质量当然不会是完美的。要创建此类视频，需要大量的计算资源和强大的视频卡。那些通常适用于家用计算机的技术还不够，而且开发过程本身可能需要数周时间。电影的质量也有很多不尽如人意的地方——错误是显而易见的，嘴巴的动作可能与声音不匹配，“旧”内容与“新”内容重叠的地方会是可见的。

但是，如果我们想稍微“调整”照片或制作简短的深度伪造视频，则可以将应用程序直接下载到智能手机。一个非常易于使用的程序，可以消除面部缺陷，让您成为您选择的名人，或者让您的狗在几分钟内用人声说话。

如何识别深度造假视频？

专业的深度伪造视频变得越来越难识别。起初，算法在基本行为（例如眨眼）方面存在问题，很快就发现这部电影是假的。此错误现已修复。假角色眨眼、动作自然、说话真实。然而，有时他们仍然会遇到自然眼球运动的问题。

那么如何识别 Deepfake 呢？观看视频时需要注意以下几点：

• 声音是否跟上嘴巴的动作？有时它们并不完全匹配，视频中的人嘴唇动得太晚。
• 种种看似不自然的现象。除其他事项外，我们在这里讨论的是整个身体或头部相对于躯干的位置、物体上光的不正确反射、珠宝中光的不正确反射等。不自然的肤色也可能是一个迹象。
• 音频和视频质量。它们之间的差异将有助于检测深度伪造。通常，音轨的质量最差。
• 图像不规则。更多时候它们出现在身体和头部的交界处。当名人的头部“粘”到另一个身体上时，颈部区域会出现模糊。
• 有时会出现框架间隙和错误（光线角度、类型或方向不同）。

你也应该依靠自己的感觉。有时我们会觉得有些事情是“错误的”。当屏幕上描绘的人的情绪与面部表情或语气所显示的情绪不匹配时，就会发生这种情况。这也表明该视频可能已被篡改。

如何保护自己免受深度造假？

为了避免深度造假欺诈，专家建议遵循以下步骤：

• 创建一个秘密词或口号。这将使您避免勒索金钱
• 与亲戚或同事就一系列信息达成一致，这些信息永远不会通过消息（例如社交网络或短信）询问。重要的是，所有利益相关方都应了解危险的真实程度。
• 实施多因素身份验证通道来验证每个请求。如果通信以文本消息开始，则通过预先商定的安全通信通道以对话的形式联系消息发送者来确认信息是安全的。
• 安全能力持续提升。提高人们对深度造假以及如何应对这一威胁的认识
• 支持和开发信息和通信技术 (ICT) 环境中的安全系统。

哪里会遇到深度赝品？

凡是能够接触到大量受众的地方都可以找到假货。 Facebook, Instagram, TikTok以及其他社交网站都充斥着此类内容。

这些不仅是令人惊叹的视频，还有经过修改的照片和录音。一些真实的名人简介已完全充满深度伪造材料！

这并不是唯一可以找到深度赝品的地方。这项技术存在于智能手机应用程序中，允许您在照片中添加小胡子和胡须或其他特殊效果（例如，衰老几十年）。

阅读： 为什么航天器使用 20 世纪的处理器

深假电影本质上并不总是色情的

深度造假的使用既可以是积极的，也可以是消极的。 Deepfake 电影可以很有趣，也可以很有趣。

Deepfake 内容还可以发挥教育作用，例如“复活”死去的艺术家、歌手或音乐家。一些博物馆，特别是佛罗里达州的萨尔瓦多·达利博物馆，使用了这项技术，艺术家本人向参观者“展示”他的作品，你可以与他们聊天，甚至拍照。

Deepfake 技术用于为失去说话能力的人设计的设备。感谢他们，这些人仍然可以用自己的声音与我们交谈。瓦尔·基尔默 (Val Kilmer) 因喉癌失去了声音，他在《壮志凌云：特立独行》中的声音就是这样模仿的。

不幸的是，我们也有很多负面使用 Deepfake 的例子。政治就是一个例子，这种虚假信息可能会产生深远的全球后果，例如抹黑公众人物、影响股市、经济或选举结果，甚至引发战争。技术的发展将使辨别真假材料的能力进一步复杂化。因此，这是社会信任下降和信息混乱的一步。

正如我们已经提到的，深度伪造视频在色情行业中广泛存在。最常见的是，这些改变包括用名人或电影明星的脸替换色情女演员/演员的脸，当然，未经他们的同意。

深度造假是一种威胁

Deepfake 不仅是演员和政治家的问题。任何人都可能受到虚假内容的伤害。勒索和勒索的一个要素可能是伪造的视频，在视频中我们犯罪或发现自己处于明确的境地。如果您在企业工作，您需要了解使用深度造假来抹黑公司的风险。

操纵性材料的增加也会影响社会信任和对所提供信息的信任。

一种允许您创建角色与其他人非常相似的恶意图像、录音或电影的技术是网络犯罪分子的新威胁。特别是考虑到他们可以利用社交媒体上几乎无限的源材料来创建深度伪造品。

机器学习软件可以搜索 Facebook or Instagram 并找到潜在“演员”的有趣照片或视频。在此基础上，可以在该人的参与下创建非常清晰的声音、图像和视频，但带有专门制作的假呼救声，模仿例如绑架或事故的受害者。

打击深度造假

虚假信息的流动如此之大，以至于许多社交网络决定打击深度造假。 Facebook 和 Twitter 尝试检测虚假视频并自动删除它们。主要企业（包括 Microsoft 或亚马逊）正在投资能够检测虚假内容的软件。科学家们也在研究解决这个问题的方法。

然而，在智能手机应用程序足以制作假电影的情况下，与深度造假的斗争就像与风车的斗争。也没有法律规则来定义以这种方式操纵信息或使用他人图像的后果。

Deepfakes 越来越流行，而且越来越难区分它与真相。这是由于技术的进步可以更好地模仿人类的动作和手势。 Deepfake 程序可以用于良好目的，创建教育材料或帮助喉咙手术后失声的人，但它们也是黑客、勒索者和网络巨魔的工具。

因此，如果您再次在互联网上看到一段精彩的视频，请首先检查它是否真实。

您还可以通过以下方式帮助乌克兰与俄罗斯占领者作战 拯救生命 或通过官方页面 乌克兰国家银行.