邪恶黑科技DeepFake,上线5天便遭全球封杀,背后

时间:2020-07-18编辑:admin

飞机、汽车、手机这些不用多说,就连镭、X射线等有害物质,都曾因太受欢迎,而引发“镭女孩”、癌症频发的惨剧。

不过,2017年,有一项高能黑科技打破了这个铁律。这个名为Deepfake的技术,在上线短短5天后,便被全网唾弃,之后更是在全球范围内遭到封杀。

Deepfake是一种变脸技术。或许有人会想,现在变脸技术那么多,诸如PS等很多软件都能实现,为什么偏偏只有Deepfake被封杀呢?

事实是,Deepfake技术不是简单的变脸,而是基于人工智能AI神经网络深度学习的变脸黑科技。Deepfake是一种深度自动编解码器模型,通过替换人物和被替换人物的数百张照片,该模型能自动识别并还原两人的面部,然后匹配解码器完成转换。

简而言之,只要提供足够多的照片素材,Deepfake就能够实现以假乱真的变脸,还自带动态捕捉,可以直接在视频甚至实时影像中进行面部更换。

2017年年底,Deepfake第一次亮相于美国社交新闻网站Reddit的成人交流社区。一位名叫Deepfakes的用户,将《神奇女侠》盖尔·加朵的脸,嫁接到了一部成人电影女主角身上,还将视频上传至该网站。

该视频引起了极大的震动。Reddit官方以Deepfakes制作并上传的换脸视频涉及色情内容,且侵犯了他人隐私为由,将其封号。

感到不服的Deepfakes出于报复,直接在Github将Deepfake技术的AI代码免费公开。紧接着,基于该代码打造的换脸APP便出现了。

犹如潘多拉的魔盒,该技术助长了不少人的恶行。2019年10月,荷兰网络安全公司Deeptrace发布了一份统计报告,报告显示Deepfake视频中96%都涉及色情,并且大部分受害者都是娱乐圈女星。

不仅如此,Deepfake的危害还衍生到了政治上。2018年,加蓬总统Ali Bongo在公众视野中消失数月,引发了不安与躁动,民间有人猜测有人谋害总统、试图夺权。

为了安抚民心,政府公开了一段Ali Bongo录制的新年致辞。这段异常的致辞让军方确信总统有难,还为此发动了兵变。

2019年,网上传出一则马来西亚经济部长Azmin Ali与男性发生性关系的视频。同性性行为在马来西亚违法,因此这件事轰动了马来西亚政府。后经证实,该视频是Deepfake技术伪造的。

从这两个案例能看出,Deepfake技术真的能做到以假乱真的换脸。倘若任由Deepfake发展,无疑是后患无穷。

试想一下,通过Deepfake,有人轻而易举就能盗用你的脸,制作恶意满满的视频,甚至进行欺诈等。而你和家人视频通话时,甚至不能确定视频中出现的脸究竟是不是对方本人,这是何其恐怖。