从爆火到被封杀只用了3天,这款AI换脸软件到底啥情况?

创业资讯 阅读(1810)

  易道博识4天前我要分享

  

  最近,一款名叫ZAO的人脸识别软件刷爆了网络,虽然大多数看上去并不是什么好消息。

  

  这款软件的主要功能是AI换脸,用户只需上传一张个人照片,便可以将经典影视桥段中的主角形象替换为自己。

  这一技术之前已经基本成熟,有不少人工智能行业的技术大咖已经尝试制作过不少换脸的娱乐视频,热搜上了一轮又一轮。

  给影视剧名场面换脸,相当于超低成本换成自己想看的演员演戏,对于用户来说当然是超值的福利。

  此前这一技术虽然也引发了一些关于肖像权隐私权的讨论,但因为明星的肖像权保护本身就是个老生常谈的无解题,这讨论也就是雷声大雨点小,没多久就结束了。

  然而这一APP让AI换脸的技术门槛彻底被踢开,任何人只要下载一个APP就可以轻而易举地实现换脸,于是大众长期以来堆积的兴趣被瞬间引爆,关于这款APP的讨论瞬间火爆朋友圈,登上微博热搜榜单,红遍社交网络。

  然而这款APP从爆火到被工信部约谈然后下架封杀,前后只用了3天时间。到底是因为什么呢?

  技术门槛被消灭之后,互动式的傻瓜操作让很多人过了一把“明星”瘾,但是与此同时,随着这款软件的爆红,大众的肖像权和隐私权终于成为一个被关注的焦点。

  大量涌入的用户开始尝鲜的时候,不少人发现此App的用户协议暗藏玄机。

  

  这几条可以说是实打实的霸王条款,翻译一下:

  1.只要你把你的脸或别人的脸传上去,那就不能要求ZAO删除;

  2.只要你上传了视频,其他用户也可以用你的视频。而且你要确保视频的相关权利人对你的行为进行了授权,否则追究的话,你要负全部责任;

  3. ZAO及其关联公司几乎可以随便用你上传的脸和视频;

  越来越多的客户不满于这个霸道的协议,讨伐声不断,因此它被约谈被封杀也就是情理之中的事情了。

  负面舆论炒起来之后ZAO官方紧急发布了一篇声明:

  

  从人脸识别专业的角度,我们来分析一下这篇内容。

  客观来说,其中的部分内容应该还算是中肯的。

  首先,第1条中的人脸实名认证。

  真人验证环节不会存储用户的面部生物识别特征信息,这句话基本上是可信的。

  真人人脸实名认证这个功能在金融行业应用非常广泛,银行、证券的远程开户大多都是采用这种方法来实现。还有游戏等其他有实名制需求的行业也都在使用。

  这一功能主要是采集用户活体照片,通过官方权威接口,与你的身份证对应存储在公安库的高清照片进行比对,如二者比对结果一致,即成功通过认证。

  正规AI厂商开发的这一功能并不需要保存用户面部信息,用户信息安全性是可以保证的。

  第3条,关于支付风险。

  易道博识在银行证券行业采用的人脸识别方案中也会涉及到人脸识别活体检测功能,这一功能是可以抵御照片、面具、假脸、视频等等攻击模式的。

  

  而支付软件在这一方面风控要求更是相当严格,所以由此带来的支付风险也可以基本排除。

  但这并不意味着这个软件的安全性得到保证,至少按照它们之前的声明来看——

  一是涉及影视版权,用户下载、上传、剪辑、修改影视片段的版权风险需要用户自己承担,相当于用户在使用这软件的时候都是在触犯版权法的边缘试探。

  二是尽管它们声明了不会采集用户面部信息,但你没有办法保证自己的照片不会被别人上传制作成视频。软件方试图把用户上传的内容据为己有,无限制扩张自己的权利范围,这触及到了大多数用户的底线。

  没有用户希望自己的脸在自己毫不知情的情况下出现在未知用途的场景,这对每个人来说都有极大的风险。

  随便举个例子,如果有人用你的脸合成被绑架的视频发给你的亲朋好友,这样诈骗中招的几率可比之前打电话那一套要大的多得多。

  总而言之,技术的发展是一定需要法律法规来规范的,但事实上技术的发展总是要比法律制定更加超前。

  随着人工智能技术的普及,之后类似的矛盾可能会越来越多。我们在等待法律完善的过程中,作为人工智能产品的提供者,自己心中也应该有一道红线,把每一个用户的信息安全放在重要的位置上,尊重用户的隐私安全,避免技术成为道德舆论的众矢之的。

  收藏举报投诉

  

  最近,一款名叫ZAO的人脸识别软件刷爆了网络,虽然大多数看上去并不是什么好消息。

  

  这款软件的主要功能是AI换脸,用户只需上传一张个人照片,便可以将经典影视桥段中的主角形象替换为自己。

  这一技术之前已经基本成熟,有不少人工智能行业的技术大咖已经尝试制作过不少换脸的娱乐视频,热搜上了一轮又一轮。

  给影视剧名场面换脸,相当于超低成本换成自己想看的演员演戏,对于用户来说当然是超值的福利。

  此前这一技术虽然也引发了一些关于肖像权隐私权的讨论,但因为明星的肖像权保护本身就是个老生常谈的无解题,这讨论也就是雷声大雨点小,没多久就结束了。

  然而这一APP让AI换脸的技术门槛彻底被踢开,任何人只要下载一个APP就可以轻而易举地实现换脸,于是大众长期以来堆积的兴趣被瞬间引爆,关于这款APP的讨论瞬间火爆朋友圈,登上微博热搜榜单,红遍社交网络。

  然而这款APP从爆火到被工信部约谈然后下架封杀,前后只用了3天时间。到底是因为什么呢?

  技术门槛被消灭之后,互动式的傻瓜操作让很多人过了一把“明星”瘾,但是与此同时,随着这款软件的爆红,大众的肖像权和隐私权终于成为一个被关注的焦点。

  大量涌入的用户开始尝鲜的时候,不少人发现此App的用户协议暗藏玄机。

  

  这几条可以说是实打实的霸王条款,翻译一下:

  1.只要你把你的脸或别人的脸传上去,那就不能要求ZAO删除;

  2.只要你上传了视频,其他用户也可以用你的视频。而且你要确保视频的相关权利人对你的行为进行了授权,否则追究的话,你要负全部责任;

  3. ZAO及其关联公司几乎可以随便用你上传的脸和视频;

  越来越多的客户不满于这个霸道的协议,讨伐声不断,因此它被约谈被封杀也就是情理之中的事情了。

  负面舆论炒起来之后ZAO官方紧急发布了一篇声明:

  

  从人脸识别专业的角度,我们来分析一下这篇内容。

  客观来说,其中的部分内容应该还算是中肯的。

  首先,第1条中的人脸实名认证。

  真人验证环节不会存储用户的面部生物识别特征信息,这句话基本上是可信的。

  真人人脸实名认证这个功能在金融行业应用非常广泛,银行、证券的远程开户大多都是采用这种方法来实现。还有游戏等其他有实名制需求的行业也都在使用。

  这一功能主要是采集用户活体照片,通过官方权威接口,与你的身份证对应存储在公安库的高清照片进行比对,如二者比对结果一致,即成功通过认证。

  正规AI厂商开发的这一功能并不需要保存用户面部信息,用户信息安全性是可以保证的。

  第3条,关于支付风险。

  易道博识在银行证券行业采用的人脸识别方案中也会涉及到人脸识别活体检测功能,这一功能是可以抵御照片、面具、假脸、视频等等攻击模式的。

  

  而支付软件在这一方面风控要求更是相当严格,所以由此带来的支付风险也可以基本排除。

  但这并不意味着这个软件的安全性得到保证,至少按照它们之前的声明来看——

  一是涉及影视版权,用户下载、上传、剪辑、修改影视片段的版权风险需要用户自己承担,相当于用户在使用这软件的时候都是在触犯版权法的边缘试探。

  二是尽管它们声明了不会采集用户面部信息,但你没有办法保证自己的照片不会被别人上传制作成视频。软件方试图把用户上传的内容据为己有,无限制扩张自己的权利范围,这触及到了大多数用户的底线。

  没有用户希望自己的脸在自己毫不知情的情况下出现在未知用途的场景,这对每个人来说都有极大的风险。

  随便举个例子,如果有人用你的脸合成被绑架的视频发给你的亲朋好友,这样诈骗中招的几率可比之前打电话那一套要大的多得多。

  总而言之,技术的发展是一定需要法律法规来规范的,但事实上技术的发展总是要比法律制定更加超前。

  随着人工智能技术的普及,之后类似的矛盾可能会越来越多。我们在等待法律完善的过程中,作为人工智能产品的提供者,自己心中也应该有一道红线,把每一个用户的信息安全放在重要的位置上,尊重用户的隐私安全,避免技术成为道德舆论的众矢之的。