AI换脸两大风险是什么?你还敢换脸吗?

2019-09-26 15:35:21 来源: 央广网

央广网北京9月1日消息(记者潘毅)据中央广播电视总台中国之声《新闻纵横》报道,这几天,一款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。什么是“换脸视频”?就是通过这款软件,用户可以将影视剧、综艺节目片段中明星的脸换成自己的照片,因为是AI人工智能技术,所以呈现出的换脸效果比较好,脸部表情自然,效果十分逼真,就像是自己演的一样。

在软件火爆之余,昨天(8月31日)开始有用户在社交媒体表达了对隐私泄露的担忧。由于换脸后需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,同时注册平台需要手机号码,不少用户担心脸部数据被泄漏会引发一系列问题。也有细心的用户发现,这款软件的用户协议中还暗藏玄机。专家指出,此类软件的确存在隐私泄露风险,同时,软件中提供给用户用来换脸的影视剧片段也存在侵权的可能性。

利用这款软件进行“换脸”,首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频,则需要进行验证确认所使用的照片的确是用户本人,而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。中国政法大学传播法研究中心副主任朱巍分析,在这个过程中,可能存在核心个人信息泄露的风险,“首先换脸技术,包括在搜集过程中转动脸部、眨眼,本质是搜集了你面部的识别信息,这个是用户最核心的个人信息。个人信息一旦被比对之后,如果落到坏人的手里,有可能涉及到财产安全和人身安全的问题。”

软件宣称,照片提交上传后,会对照片进行非公众人物验证和肖像权验证,确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制,也无法被分享或下载。虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞,但朱巍指出:“这种东西看似是以娱乐为目的,因为大家笑一笑不会产生什么伤害。但是因为技术的发展,‘道高一尺魔高一丈’,如果被坏人利用,一方面利用这个技术,另外一方面盗取了这些换脸的信息,包括用户所有的个人信息,一旦匹配成功,轻则精准诈骗,重则有可能用户的账号、密码都处在不安全的状态,所以平台的责任更大,它(软件)的影响范围越大,越火,平台的社会责任和在道德责任层面上的法律责任也就越高。”

与此同时,软件内置可供选择的影视剧片段中,有包括《延禧攻略》《长安十二时辰》《还珠格格》在内的多部热门国内电视剧,也有石原里美、莱昂纳多·迪卡普里奥等国外明星的影视剧片段,还有大量热门的综艺片段。对此,朱巍指出:“换脸技术涉及的是要放到影视剧里面去,影视剧本身涉及著作权、知识产权。突然间把脸换了,是不是构成合理使用?这个可能跟知识产权法有密切关系。”

其实,人工智能进行换脸的技术数年前已经出现。2017年,国外一个论坛用户首先将自己制作的换脸视频发布在网络上,利用这一技术,他将国外女明星的照片与色情影片合成,几乎以假乱真,一度引发巨大争议。虽然相关视频最终被删除,但是这项技术随后被开源。今年年初,有国内用户在网络上发布一段合成的换脸视频,将一段电影片段中朱茵的脸换成了杨幂,也曾引起争议。随着如今这款软件的爆红,视频“换脸”门槛进一步降低。

朱巍分析:“很多的换脸实际上并非是以娱乐为目的的,有一些比如涉及到人格尊严,包括人的名誉权、肖像权的侵害,他换的可能不是自己的脸,而是别人的脸,或者在一些非法低俗的网站上进行这样的行为,尤其它做得特别逼真,非常有可能让其他人认为是不是被换脸的这个人实际从事的表演,这些都是安全隐患。”

有细心的用户发现,这款软件的用户协议中还暗藏玄机。其中写道,使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。北京岳成律师事务所律师岳屾山指出:“我授权给你以后,你不能够把我的照片用于其他的非法用途,或者把我的照片进行修改、丑化、恶搞,这对于我授权给你使用肖像权的目的存在一定偏差。这个时候其实对于上传照片的App用户来讲,可能构成的是名誉上的侵权,或者导致他的社会评价降低等,这也有可能构成侵权。”

用户协议中还写道,该款软件及其关联公司可自行选择是否使用以及使用方式,包括但不限于编辑相关信息、授权给合作方使用、编辑与传播。还称会“尽最大努力在合理范围内使用”。岳屾山分析:“App用户在上传了之后,或者说授权给App经营者之后,它的经营者还要求可能会给它的关联公司或者给其他人。这对于转售权来讲是过于模糊的,而且很有可能造成自己的隐私泄露,所以建议相关部门对于这类的用户协议予以相应规制,包括使用者也要仔细看一下这些用户协议,如果确实存在这些风险和对自己很不利和不公平的条款存在,建议不要使用。”

昨晚记者发现,该款软件“用户协议”中,“您的必要授权”这一项内容与此前相比进行了较大幅度的修改,去掉了关联公司等相关表述。同时在用户协议的醒目位置,增加了一则特别提示,其中指出,用户上传的短视频及人脸等信息,将仅限用于为用户提供上传/发布短视频,以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务。

同时,新增内容中承诺,相关的内容将严格按相关法律法规的规定保留在软件上,除非为了改善该款软件为用户提供的服务,或另行取得用户的再次同意,不会以任何其他形式或目的使用上述内容。此外,用户协议中相比之前补充了撤回及删除条款,并承诺用户执行相关操作后,将依据相关法律法规的规定在服务器上删除。有关事件的最新进展,中国之声将持续关注。

精选 导读

Forever 21否认破产 门店依旧正在营业

据《华尔街日报》中文网援引知情人士透露,美国快消品牌Forever 21计划最早于本周日申请破产保护,因销售放缓、电商竞争以及消费习惯的改变给许多实体连锁店造成了越来越大的损失。

发布时间: 2019-09-26 15:35
社会   2019-09-26

即将前往美国伯克利音乐学院求学 王源发文感谢粉丝

9月3日,TFBOYS成员王源寸头造型现身机场。当天王源身穿黑白混搭的外套,背着黑色的双肩包和一个浅蓝色的包包。

发布时间: 2019-09-26 15:27
社会   2019-09-26

首只警用克隆犬顺利通过考核 正式入警

8月22日,昆勋准备参加考核。当日,在公安部昆明警犬基地,我国首只警用工作克隆犬昆勋完成了上岗培训,顺利通过考核,正式入警。 新华社

发布时间: 2019-09-26 15:26
社会   2019-09-26

沈月方否认恋情 沈月绯闻男友是谁?

近日,沈月恋情疑似曝光消息上热搜受到网友们的关注,这到底怎么回事?沈月恋情疑似曝光 是真的吗?沈月恋情疑似曝光 男友是谁?下面来看一下。

发布时间: 2019-09-26 15:25
社会   2019-09-26

Costco宣布将限流 Costco为何这么火爆?

昨日Costco在沪开业首日被挤爆的话题在网上引起热议。

发布时间: 2019-09-26 15:24
社会   2019-09-26

热点 推荐

AI换脸两大风险是什么?你还敢换脸吗?

据中央广播电视总台中国之声《新闻纵横》报道,这几天,一款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。

发布时间: 2019-09-26 15:35
社会   2019-09-26

Forever 21否认破产 门店依旧正在营业

据《华尔街日报》中文网援引知情人士透露,美国快消品牌Forever 21计划最早于本周日申请破产保护,因销售放缓、电商竞争以及消费习惯的改变给许多实体连锁店造成了越来越大的损失。

发布时间: 2019-09-26 15:35
社会   2019-09-26

即将前往美国伯克利音乐学院求学 王源发文感谢粉丝

9月3日,TFBOYS成员王源寸头造型现身机场。当天王源身穿黑白混搭的外套,背着黑色的双肩包和一个浅蓝色的包包。

发布时间: 2019-09-26 15:27
社会   2019-09-26

2019年男篮世界杯 美国53分狂胜日本

北京时间9月5日晚,2019年男篮世界杯继续进行。在上海进行的E组第3轮角逐。卫冕冠军美国男篮经过四节较量以98-45战胜日本男篮,以3胜0负的战绩晋级16强;日本队遭遇3连败排名E组垫底。

发布时间: 2019-09-26 15:27
社会   2019-09-26

湖南电视台点赞在线英语教育平台:阿卡索高品质外教受市场青

近年来,随着教育市场需求的迅速扩张,多地教育机构被曝出黑外教事件,无证、无教学资质的外教出现在外教市场,对教育市场造成不良影响。针对线

发布时间: 2019-09-26 15:26
行情   2019-09-26
-->