“使用ZAO融合生成。”

换脸软件ZAO被下架质疑,女明星不雅换脸视频被公开售卖。 AI换脸产业链乱象的解决之道是什么?

多面ZAO,用户该如何选择?

上周五晚上,一款名为ZAO的换脸软件在社交网络上走红。用户只需要上传一张全脸照片,就可以将自己的脸替换成电影或电视剧中的角色。

试想一下,你变身偶像剧《亲爱的热爱的》中的女主角,与现任男友有一段随意的恋情;在童话剧《陈情令》中,你化身魏无羡和蓝忘机,演绎一段爱恨交织的爱情故事。想一想,你是不是还有些激动呢?

把视频中明星的脸换成自己的脸所获得的满足感并不依赖于其他人的认可,而更多地依赖于换脸技术所提供的新的自我。那就是做自己,却又不是自己的奇妙感觉。

然而,在用户享受过瘾体验的同时,这款AI换脸APP的用户认同度却有点亮眼。协议规定,使用该软件进行换脸需要征得肖像权人的同意。换脸后的视频或图片可供“ZAO”及其关联公司在全球范围内完全免费且不可撤销地使用。

换脸软件ZAO被下架质疑,女明星不雅换脸视频被公开售卖。 AI换脸产业链乱象的解决之道是什么?

这意味着什么?

霸道的用户协议条款在换脸软件带来的快感面前显得有些强硬和冰冷。玩完之后,用户突然醒悟了。在游走于灰色地带的“多面ZAO”面前,用户就像待宰的羔羊。

没有人知道前方的隐患何时会被触发。

在争议酝酿之际,ZAO迅速回应个人信息安全争议,表示不会存储人脸识别特征信息。随后,工信部就网络数据安全问题约谈ZAO,要求其进行自查整改,依法依规收集、使用用户个人信息,规范协议条款。

换脸软件ZAO被下架质疑,女明星不雅换脸视频被公开售卖。 AI换脸产业链乱象何解?

这一系列的操作发生得太快,让人猝不及防。

换脸软件ZAO被下架质疑,女明星不雅换脸视频被公开售卖。 AI换脸产业链乱象的解决之道是什么?

ZAO起源于2017年,采用Deepfake技术。 Deepfake 是指使用人工智能软件创建的虚假视频。

据报道,在某交易平台上,打着“爱心换脸,全网最全、价格最低”的幌子,公开兜售明星换脸不雅视频的交易层出不穷。

“从网盘发货,在线观看,套餐价49元。我担心不会像试玩一样免费。热门一线(明星)的内容比较好,而内容三四线(明星)的水平一般。”

利用AI换脸技术制作明星换脸的不雅视频,似乎并没有受到平台监管的限制。

在一些电商平台上,甚至可以提供视频定制的换脸产品。买家只需提供一些被换脸的人的照片,卖家就可以将照片中的人脸“转移”到特定视频中的特定人身上。

换脸软件ZAO被下架质疑,女明星不雅换脸视频被公开售卖。 AI换脸产业链乱象何解?

这不禁让网友们不寒而栗。网友“西西”表示:“会不会有人用我在社交平台上发布的自拍照来制作换脸视频?那太糟糕了。”有网友:表示“一旦有不法分子利用这段视频对亲人进行诈骗勒索,后果不堪设想。”

不可忽视的是,在移动支付人脸识别日益普及的今天,你的个人隐私可能已经公开透明,并有明确的价格标签。

事实上,这可能正在发生。

像ZAO这样采用深度学习技术的换脸软件最大的问题是大规模采集生物识别信息和“真假难辨”的Deepfakes给社会带来的安全风险,而这种风险目前被广泛低估由公众。

有律师指出,制作、销售AI换脸淫秽视频无疑构成传播淫秽物品牟利罪,还涉嫌侵犯他人肖像权、名誉权。对于购买AI换脸色情视频的买家来说,如果进行传播或以营利为目的传播,也可能构成违法行为甚至犯罪。

这确实是违法犯罪行为!

面对这种新型违法犯罪行为,一方面要完善法律法规,另一方面要用更多的手段让公众认识到这种行为的严重危害。

用户评论

相知相惜

哎呀,这个换脸软件ZAO被下架了,真是没想到,之前还觉得挺有趣的,现在想想确实有点不妥。女明星不雅视频被公开售卖,这可不是什么好事啊。

    有14位网友表示赞同!

爱你心口难开

哎,这AI换脸技术确实强大,但被滥用的话,确实让人担忧。产业链乱象怎么解决啊,希望有关部门能好好管管。

    有10位网友表示赞同!

满心狼藉

那个女明星的视频太可怕了,换脸软件都变成这种用途,真是让人寒心。希望国家能出台规定,遏制这种乱象。

    有10位网友表示赞同!

等量代换

换脸软件被下架,其实也是好事,至少可以让我们有个反思的机会。AI换脸技术本身是好的,关键是要规范使用。

    有15位网友表示赞同!

青山暮雪

这AI换脸产业链乱象,得从源头抓起啊。换脸软件不能随意售卖不雅视频,得加强监管,保护明星和用户权益。

    有15位网友表示赞同!

陌颜幽梦

听说ZAO被下架是因为涉嫌违规,这让我想起之前有个女明星被换脸成不雅视频,真是可怕。希望以后这种事情能少发生。

    有15位网友表示赞同!

陌上花

AI换脸技术本身没问题,但被一些人用来做坏事,确实让人气愤。解决之道,我觉得得从提高公众道德素质做起。

    有12位网友表示赞同!

还未走i

这AI换脸产业链乱象,光靠软件下架是解决不了问题的。得从法律法规、技术手段、道德教育等多方面入手。

    有8位网友表示赞同!

单身i

女明星不雅视频被公开售卖,这背后是产业链的漏洞。我们得反思,如何让技术进步的同时,保护每个人的隐私和安全。

    有13位网友表示赞同!

鹿先森,教魔方

换脸软件被下架,可能只是开始。解决AI换脸产业链乱象,需要全社会的共同努力。

    有9位网友表示赞同!

反正是我

这AI换脸技术,如果用在正当的地方,确实可以带来很多便利。但滥用的话,确实让人头疼。希望有关部门能制定出合理的规范。

    有18位网友表示赞同!

隔壁阿不都

换脸软件被下架,是不是意味着我们可以期待一个更规范、更健康的AI换脸市场呢?希望如此。

    有6位网友表示赞同!

大王派我来巡山!

女明星不雅视频事件,让我们看到了AI换脸技术的双刃剑。解决之道,不仅仅是软件下架,更重要的是提升行业自律。

    有7位网友表示赞同!

折木

这AI换脸产业链乱象,得从用户教育做起。提高大家对隐私保护的意识,才能从根本上解决问题。

    有17位网友表示赞同!

熏染

ZAO被下架,算是给了我们一个警示:技术的发展不能脱离道德底线。解决之道,就是要让科技与伦理同行。

    有20位网友表示赞同!

弃我者亡

AI换脸技术,如果用在合法合规的地方,可以带来很多创新。但乱象频发,确实需要我们共同努力去解决。

    有8位网友表示赞同!

她最好i

换脸软件被下架,希望这只是开始。我们要共同努力,让AI换脸技术真正造福社会,而不是成为乱象的源头。

    有7位网友表示赞同!

闷骚闷出味道了

这AI换脸产业链乱象,得从源头治理。加强监管,规范市场,才能让技术真正发挥积极作用。

    有19位网友表示赞同!

标签: