“换脸”真相:“深度伪造”的网络狂欢和安全威胁

衡水视线 刘欣 2019-09-09 08:24:05
浏览

  近期,一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。

  这一款换脸APP很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在本周,工信部就网络数据安全问题约谈了相关公司。

  与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake, 深度伪造。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  外国媒体报道:我们不能相信网上的所有东西,没错,深度伪造,深度伪造,深度伪造!是的,这到底是什么?深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  Deepfake(深度伪造),“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。

  简单来说,这是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  早在一年多前, 2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  网络视频打假专家 沃德尔博士:你好,今天我要和你讨论一项影响名人的新技术。(记得)奥巴马说特朗普是笨蛋,或者卡戴珊的说唱“因为我总是半裸吗”?深度伪造!深度伪造!深度伪造!这也是深度伪造,我也不是阿黛尔,我是(打击)网络伪造的专家。深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换,现在还成了电影特技。有了这样的爆款技术,天啊,我们不能相信任何东西了。没错,深度伪造就是可怕的反乌托邦。它们只会变得更容易,制作成本也更低廉。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。

  “针幕动画”联合创始人 李浩:现在我制作了一个你的化身。

  美国公共广播公司记者 奥布莱恩:一个和蔼整洁的奥布莱恩。

  这种戏法可以用在任何人身上,当然也包括政界要人。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  美国公共广播公司记者 奥布莱恩:现在我成了我们的总统(特朗普),日本首相安倍晋三。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁

  “针幕动画”联合创始人 李浩:当然,这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此,它被用于娱乐,一个有趣的工具,用于时尚、生活方式各方面,带给我们更多体验。

  但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。

“换脸”真相:“深度伪造”的网络狂欢和安全威胁