克里斯·乌梅（Chris Ume）/ YouTube

最近几个深度伪造（DeepFake)技术制作的视频在TikTok上广为流行，着几部视频都是栩栩如生的汤姆·克鲁斯（Tom Cruise）“出演”的。人们穿过黑暗的玻璃仿佛隐隐看到真相的未来。获得主要名人或政治人物的深度伪造将像“一键式”功能那样平平常常，这样的世界开始令人担忧。

无论你喜欢与否，这个世界上的任何人一个都可以使用Deepfake技术。但是，无论是出于恶作剧还是提高知名度，对高端专业AI技术使用者进行管理比看起来要困难得多。

该视频的创建者-比利时视觉特效专家Chris Ume-认为一键式深度伪造不太可能。他强调说除了发现明星汤姆·克鲁斯（Tom Cruise）模仿者（Miles Fisher）之外，构建每个Deepfake视频需要很长的时间和并且需要进行大量工作。

梅（Ume）在The Verge的一份报告中说：“不可能按下一个按钮就能生成深度伪造视频。” 这一点很重要，这是我想向人们传递的信息“。Tom Cruise Deepfake的每个剪辑都花费了数周的时间。视频采用了开源的DeepFaceLab算法和其他更常规的视频编辑工具。“通过将CGI（电脑生成图像）和计算机特效与Deepfakes结合使用，能制作出很好的视频。我感保证您看不出瑕疵。”

于默（Ume）与Deepfake合作已有多年。他为“南方公园”创作者Trey Parker和Matt Stone创作的“ 野蛮正义”系列特效制作了特效。当他看到Fisher较早的Cruise Deepfake视频时，他开始从事Cruise Deepfake的工作，该视频宣告假扮克鲁斯的演员发表竞选总统的意图。

@deeptomcruise的账号

然后，两人就Cruise的“竞选总统演讲”视频开始了合作 ，并最终决定与TikTok一起进行下一个出色的实验。他们的@deeptomcruise帐户很快就吸引了成千上万的追随者和喜欢的人，这证明了社交平台甚至能够以认真的虚拟项目来提升关注的速度。于梅（Ume）曾暂时删除了这些视频，但他后来又将其发布了。

关于帐户及其深层欺诈活动，Ume说：“它已经达到目的了” ，“我们玩得很开心，我提醒了人们，展示了自己的技能；我们让人们笑了，这就够了，项目完成了。” 尽管这些视频完全符合TikTok的模仿仿冒行为使用Deepfake的规则。真正的Tom Cruise在发现他的Deepfake之后，很快就在TikTok平台上开设了自己的官方帐户。

MyHeritage官网

Deepfake并不完全是新事物，但结果日趋真实和“栩栩如生”。几周前，MyHeritage在其网站上添加了一个新的AI工具，该工具可以将死者亲属的照片恢复为令人不安的视频。

家谱网站的新功能称为DeepNostalgia，它结合了多个驱动程序，将“生命”带给了死气沉沉的人。

“每个原型都是由固定的动作和手势序列组成，” MyHeritage网站上的常见问题解答中写道。“Deep Nostalgia可以非常准确地将原型应用于静止照片中的面部，并创建一个简短的视频，以便您可以看到祖先的微笑，眨眼和转过头。”

政治上滥用该项技术的可能性是很大的。但到目前为止，深度伪造所造成的社会影响基本上是良性的，但“色情报复”或未经妇女同意的色情图片除外。自相矛盾的是，深度伪造的真实性与在线造成的破坏没有多大关系，破坏是沉重的，并可能导致严重的不正当使用。

例如，如果某人有一张无害的头像。就有可能威胁或勒索其真人，破坏其生活和生意。甚至可能杜撰出类似充满争议的八卦新闻。

“不真实”的Deepfake却能生成“真实的”图像和内容。这种“真相扭曲”技术在娱乐行业已被广泛使用。

我们已经看到迪士尼的《星球大战》重现了已故彼得·库欣的面孔，重现了他对核心人物莫夫·塔金的表演。此外还为公主莱娅（Leia Princess Leia）制作了另一张嘉莉·费雪（Carrie Fisher）深切的表情。但是，无论AI技术成为社会生存的祸根，还是变成发展好莱坞新人才的主流替代方案，或是两者兼而有之—，深度伪造的精灵已经从魔瓶中跑了出来。

其实，Deepfakes“换脸”技术并没有错，错的是那些利用它来牟利犯罪的人。就像“刀可以杀人，也能保护人”，只是取决于是谁利用它而已。

原文链接：https://interestingengineering.com/ai-deepfakes-future-of-truth