Deepfake被玩出圈!有人用它模仿俄罗斯反对派人物,在Zoom上“调戏”欧洲议员
开发 开发工具 人工智能
最近几天,一些欧洲高级议员懵了。他们收到了一些“俄罗斯反对派人物”的视频会议邀请,还煞有其事地讨论了克里米亚问题之类的政治事务,结果发现在这些所谓的“俄罗斯反对派人物”都是别人用Deepfake换脸假冒的。

大数据文摘出品

作者:王烨

最近几天,一些欧洲高级议员懵了。

他们收到了一些“俄罗斯反对派人物”的视频会议邀请,还煞有其事地讨论了克里米亚问题之类的政治事务,结果发现在这些所谓的“俄罗斯反对派人物”都是别人用Deepfake换脸假冒的。

这些受骗者包括拉脱维亚议会外交事务委员会主席Rihards Kols,以及来自爱沙尼亚和立陶宛的议员。英国外交事务特别委员会主席Tom Tugendhat也表示,他也是目标之一。

Deepfake真是出息了,终于从娱乐圈搞到国际政治了。

聊完发现被骗,拉脱维亚议会外事委主席发推吐槽

本月早些时候,有一个自称是沃尔科夫的人通过电子邮件联系了拉脱维亚议会外事委主席Rihards Kols,并与他进行了一个简短的视频电话会议,讨论了对俄罗斯政治和克里米亚问题。

Rihards Kols说,直到后来他才意识到自己可能是一个高科技恶作剧的受害者。

Rihards Kols在推特中放出了两张照片,左边是真正的俄罗斯反对派人物Leonid Volkov,右侧是视频会议中用Deepfake生成的Leonid Volkov。

“这是一个非常痛苦的教训,但也许我们也应该感谢这位虚假的Volkov,感谢他给我们、立陶宛同事和爱沙尼亚同事上了这堂课,”他写道。“显然,所谓的真相衰退或后真相和后事实时代有可能严重威胁地方和国际国家、政府和社会的安全与稳定。”

被别人假冒的Volkov自然很生气,他也在推特上指责经常以西方官员为目标的俄罗斯恶作剧“高人”二人组弗拉基米尔·库兹涅佐夫(沃万)和阿列克谢·斯托利亚罗夫(雷克萨斯)是这件事的幕后推手。

曾经恶搞过多国政要的弗拉基米尔·库兹涅佐夫(沃万)和阿列克谢·斯托利亚罗夫(雷克萨斯)

阿列克谢 · 斯托利亚罗夫(雷克萨斯)在 Facebook 上联系到Rihards Kols,他没有否认与Rihards Kols通过话,说他会“保守这个秘密”。他否认使用Deepfake使自己看起来像Volkov,他写道: “很可能Volkov收到了错误的信息。”

换脸背后的技术支撑——Deepfake

从北京卫视把“吴秀波”的脸换掉,到迅速陨落的换脸App Zao,再到现在在国际政治上“搅浑水”,这背后的技术Deepfake早已在AI圈家喻户晓。

Deepfake是一种使用AI深度学习,能够将一张图片中人的脸换到其他人的图片上的技术。通过这种技术,我们可以创建一个非常逼真的“假”视频或图片,“换脸”因此得名。

研究人员使用自动编码器神经结构,使这一想法成为现实。基本思路非常简单:对于每张脸,我们都训练一套编码器和相应的解码神经网络。编码时,使用的是第一个人的图片。而解码时,却是使用第二个人解码器。

对于训练部分,试试这菜需要搜集每个人几百张不同姿势的图片,用吴秀波这种明星来做训练很容易,毕竟有大量的网络公开图片视频。

图片不足时,我们还可以从现有视频中提取。在神经网络训练并学习了关于每个人面部的特征之后,它自己就能预测想出这个人还没摆出来的姿势。

比如,训练生成John Oliver。

在此技术出现之前,人们想换个脸只能依赖手动PS。这就要花费很多人工和时间,而且想在视频里换个脸更难,每一帧都得换。

但自从这个叫做“Deepfake”的软件被匿名开源发布,一切都不一样了。

类似的换脸软件还有一款叫做DeepFaceLab。

在Github上有开源👇

 

链接:https://github.com/iperov/DeepFaceLab

Deepfake搅动政坛,技术才是最后一道防线?

2019年,美国众议院议长Nancy Pelosi的一段深度伪造的谈话视频出现在社交媒体上,这段视频经由特朗普总统分享,在Facebook上获得了超过250万次的浏览量。

早些的时候,奥巴马的脸被“借用”来攻击特朗普,该视频在网站上也获得480万的浏览量。

特朗普本人也难逃一劫,西雅图电视网曾播放过一段Deepfake的特朗普演讲视频,视频中特朗普满脸通红,还不时做一些滑稽的表情。由于Deepfake技术可以运用在包括总统在内的任何官员身上,美国两党开始担心该技术将成为针对美国和其他西方国家发起虚假信息战争的最新武器。

2019年6月13日,美国众议院情报委员会召开关于人工智能Deepfake的听证会,公开谈论了Deepfake技术对国家、社会和个人的风险及防范和应对措施。

法律法规只能把正规企业的技术关进笼子,但是很难阻止个人的行为。比如这次假冒“俄罗斯反对派人物”忽悠了一帮欧洲高级议员的人,到现在都没有人宣布为此事负责,人们也不知道这背后究竟是谁。

能够打败魔法的也许还是魔法,能不能用技术手段检测Deepfake呢?答案是可以的。

就在Deepfake开源不久,Facebook首席技术官Mike Schroepfer就发布博客宣布,公司正和微软联合来自麻省理工、牛津等大学的研究者,通过置办“Deepfakes鉴别挑战赛”,探索如何通过数据集和基准测试检测Deepfake换脸视频。

美国国防部也研究了一项名为forensic的图像鉴定技术。他们的思路是寻找图片和视频中的不一致性,例如不一致的灯光、阴影和相机噪音。

加州大学河滨分校的学者也提出了检测Deepfake伪造图像的新算法。同样的,算法的一个组成部分是各种“递归神经网络”,它能将有问题的图像分割成小块,然后逐像素观察这些小块。神经网络经过训练可以检测出数千幅Deepfake图像,它找到了赝品在单像素水平上的一些特质。

孵化自清华大学人工智能研究院的RealAI团队也宣称,由于Deepfake生成的造假视频画面会有不“自然”的纹理存在,他们通过海量视频训练神经网络,让其学习正常情况中的纹理特征,再以此检测造假视频中不一致的纹理。利用该技术,可以对造假视频实现逐帧检测,准确率高达90%以上。

不过,这次欧洲议员和假冒的“俄罗斯反对派”人物视频会议发生在Zoom上,显然,Zoom还没有搭载在线检测Deepfake的技术手段。

【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】

戳这里,看该作者更多好文 

 

责任编辑:赵宁宁 来源: 51CTO专栏

同话题下的热门内容

盘点 Ssh 客户端工具,你知道几个?因无人愿意开发,Hadoop 管理工具 Apache Ambari 顶级项目即将退役IDEA自带的数据库插件,真香2022年推荐给Web开发人员的十大VSCode扩展Chrome 的后悔药,推荐一枚有用的插件预览:GNOME 42 中 GNOME Shell 的新 UI

编辑推荐

终于有人把Elasticsearch原理讲透了!花了一个星期,我终于把RPC框架整明白了!拜托!面试不要再问我Spring Cloud底层原理论如何下载一个在线的m3u8文件到本地成为一个mp4!中台是个什么鬼?你想知道的都在这里!
我收藏的内容
点赞
收藏

51CTO技术栈视频号