Deepfake(Deep Fake AI) 深度伪造(深度伪造 AI)
Deepfake(深度伪造,有时也称为:深度“换脸”)是一个基于AI的技术,用于制作或修改视频内容以呈现与实际不符的事物。Deepfake这个词是一个Reddit网站的deepfake用户命名的,该用户在2017年12月使用深度学习技术在在色情视频剪辑中编辑名人的面孔。这个词即适用于技术,也适用于利用这个技术制作的视频,是深度学习和伪造的重要组成部分。
Deepfake是由两个竞争的AI系统创建的,一个叫“生成器”(generator),一个叫“鉴别器”(discriminator)。生成器生成假视频,然后让鉴别器来辨别该片段的真假。鉴别器每次判断视频片段为假时,会提供给生成器一条线索,即下次生成视频时不应该做什么。
生成器和鉴别器一起形成的这个东西叫做生成式对抗网络(generative adversarial network, GAN)。建立这个网络第一步是明确期望的输出,并为生成器创建训练数据集。一旦当、生成器开始生成可接受的输出,这些视频就会送给鉴别器。
随着生成器能够伪造越来越真的视频,鉴别器也会越来越准确的识别出来。反之,当鉴别器识别能力变得越强大,生成器伪造假视频的水平也会不断提高。魔高一尺,道高一丈;道高一尺,魔高一丈。不断迭代,直到足以以假乱真的照片或者视频生成。
由于deepfake是由AI创建的,创建逼真的视频已不需要什么高超的技术了。用网上下载的工具,可以很容易的做的。这意味着几乎任何人都可以创建一个deepfake视频。这会带来两个方面的后果,一方面是可以用脸可以拍摄各种漂亮的照片,美丽的视频;另一个方面,视频将会完全失去人们的信任。
最近网上又有个新的单词:Fakenude(伪造裸体),AI的技术好像有进了一步。Adobe公司最近公布“照片处理反侦查”技术,使用AI技术就能检测出图像是否皮PS了,据说该技术的识别率可以高达99%。该技术通过基于深度学习的目标检测技术演进模型Faster R-CNN改进后实现的。有兴趣的同学可以查看参考文章。
想起在1999年,谷歌两位创始人非常有远见为初创期的谷歌确立了“不作恶(Don’t be evil)”的核心价值观。2018后,腾讯提出“科技向善(Tech for Social good)”。在科技突发猛进的时代,我们或许应好好思考科技为人所用的意义和价值。
参考文章:
1. Deep fake
https://what is.techtarget.com/definition/deepfake
2. Learning Rich Features for Image Manipulation Detection
http://openaccess.thecvf.com/content_cvpr_2018/papers/Zhou_Learning_Rich_Features_CVPR_2018_paper.pdf
3. 基于深度学习的目标检测技术演进:R-CNN,Fast R-CNN,Faster R-CNN
https://www.cnblogs.com/Skyrim/p/6806246.html