制作AI换脸视频需要一定量的包含人脸识别信息的视频或图片。但实践中，大多数信息获取过程并不符合基于“同意”的个人信息使用规则。信息时代，个人信息的泄露和滥用往往意味着一个人正常生活秩序的丧失，为违法犯罪活动提供滋生土壤。因此，无论是个人还是法律都非常重视个人信息权利的保护。 2021年1月1日生效的第《民法典》号特殊人格权条，保护肖像权等重要人格权，并明确侵犯肖像权不需以“存在营利目的”为构成要件元素。 2021年8月20日，全国人大常委会发布《个人信息保护法》号文，为网络安全和数据合规划定法律界限。人工智能换脸技术徘徊在法律的边缘，与公民的肖像权、名誉权、隐私权、个人信息权、著作权等权利密切相关。合法与非法往往只能由当事人的想法来决定。本期刑事私司以“人工智能“换脸”这一热点话题为切入点，对互联网时代的个人权益保护进行分析探讨。
一、“AI换脸”技术概述
以DeepFaceLab软件为例，为了实现换脸，用户需要提供两类素材：五官视频或图片（Source）和场景视频（Destination），分别简称为：SRC 视频和DST 视频。为了实现换脸，需要软件运行以下程序：处理SRC视频，提取人脸信息； 处理DST视频并提取人脸信息； 将模型从SRC训练到DST； 合成新视频。素材的丰富程度、模型的质量、迭代次数决定了最终的视频成像效果。设备硬件和数据处理能力决定了转换速度。个人换脸操作一般可以在几个小时内完成，而使用换脸APP，视频生成时间将大大减少。
二、AI换脸技术的实践运用
（1）普通个人使用——进行娱乐用途
普通个人体验AI换脸技术，大多是通过互联网软件公司开发的相关APP。 AI换脸是在软件后端服务器上完成的。用户只需提供换脸素材，替换视频片段由软件开发商提供。因此，在一定程度上避免了“恶意利用”的情况。以“ZAO”软件为例。用户将自己或他人的面部信息嫁接到特定的视频片段上，实现与偶像或朋友“表演”的梦想，从而获得一定程度的精神愉悦和独特体验。但也可能存在恶意使用的情况。用户在使用相关软件（如OpenFaceswap、DeepFaceLab、Fakeapp等）制作换脸视频时，由于SRC素材和DST素材都可以自行选择，因此会出现使用他人肖像的情况。一些“不友好视频”包括制作换脸视频和其他恶意用途。
例如，上面的视频片段就是将B站某UP主《亮剑》（DST视频）和《铁齿铜牙纪晓岚》（SRC视频）两位主演的头像替换后生成的视频（注：该视频为2021年9月25日发布上传，现已删除），视频效果几乎假如真。
(3) 犯罪分子——用于犯罪用途
由于“换脸”可以达到以假乱真的效果，引起人们的误解，因此，AI换脸技术也经常被用来实施犯罪。具体可以包括以下几种形式：
1. 欺诈和勒索。利用AI换脸技术制作容易引起误会的视频（如绑架视频、裸聊视频、卖淫视频），受害人可能会因误认、恐惧等原因（不自觉地）将财产交给犯罪分子。可能构成诈骗、敲诈勒索等犯罪行为。
2、散布谣言。在个人纠纷、商业竞争、政治斗争甚至国家对抗中，一些不法分子为了报复、打压对方，利用AI换脸技术，伪造对对方不利的信息，影响对方名誉或形象。
3、制作淫秽物品。犯罪分子将色情视频中主角的面部信息替换为名人或普通人的面部信息，从而形成新的淫秽材料。淫秽物品可以供自己观看、传播给他人、组织特定群体观看、上传到公共平台供公众观看。免费/付费观看、出售。
4. 伪证。视频是电子数据，是法律证据类型之一。它包含丰富的证据信息，但也存在被篡改的风险。如果利用AI换脸技术伪造证据，可能会影响法官的判断，从根本上影响法院的判决结果。
3、AI换脸技术的法律风险
1. 侵犯肖像权
肖像是一个人最重要的核心信息。肖像权是一项关系到人格尊严的基本人格权。作为一项绝对权利，它具有排除一切侵权行为的法律效力。在未经他人同意的情况下，利用他人的面部信息制作换脸视频时，无论是否以营利为目的，均涉嫌侵犯他人肖像权。《民法典》 第1019条规定了肖像权的消极权力：任何组织和个人不得以诽谤、污损或者利用信息技术手段伪造等方式侵犯他人肖像权。未经肖像权人同意，不得制作、使用、披露肖像权人的肖像，但法律另有规定的除外（《民法典》《合理使用》第1020条规定）。
【案例】因某AI换脸视频中使用了自己的肖像，林俊杰向杨浦江区人民法院起诉上海宽域数字科技有限公司（Bilibili）及其UP主肖某侵犯肖像权。上海。
为了完成换脸，用户需要提供DST视频（即贡献场景视频），实践中多为影视作品和色情视频。色情视频属于非法作品。虽然他们拥有版权，但一般不会向法院申请保护。影视作品是合法作品，享有包括保护作品完整性的权利和在互联网上传播信息的权利等版权。演员作为表演者，依据第《著作权法》号第三十九条的规定，享有表明表演者身份、保护表演形象不被扭曲等邻接权。因此，如果AI换脸过程中存在故意欺骗或公开传播的情况，则可能涉嫌侵犯版权。
（二）AI换脸技术可能涉及的行政违法风险
《治安管理处罚法》第四十二条规定：有下列行为之一的，处五日以下拘留或者五百元以下罚款：情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。 ……（二）公开侮辱他人或者捏造事实诽谤他人的； （5）多次发送淫秽、侮辱、威胁等信息，干扰他人正常生活的； （六）偷看、偷拍、窃听、传播他人隐私的。
【处罚结果】行政拘留十日，罚款五百元。
（三）AI换脸技术可能涉及的犯罪风险
1.侮辱诽谤罪
侮辱诽谤犯罪是侵犯名誉权的行为，与民法、行政法共同构成保护公民名誉权的法律体系。以“把明星脸改成出轨视频”为例。如果足以让普通人误会明星出轨，就涉嫌构成“诽谤”。即使普通人知道该名人没有前述行为，但制作此类视频也是违法的，也会构成“侮辱罪”。如果将脸改成色情视频，还会涉嫌“制作、传播淫秽物品牟利”、“传播淫秽物品”等犯罪。
【案例】2021年8月28日，演员刘昊然工作室报警，称网友利用AI换脸技术传播辱骂刘昊然的视频和截图，以及含有诽谤言论的聊天记录。
以营利为目的，利用人工智能换脸技术在色情视频中使用名人或者他人肖像，构成制作淫秽物品牟利罪。后续销售构成销售、传播淫秽物品牟利罪。即使传播相关视频的目的不是为了营利，而是出于报复、刺激的目的，也可以构成传播淫秽物品罪。需要注意的是，相关犯罪并不限于最初的制作者和传播者。后续获取该视频并出售、传播的，也将涉嫌实施上述犯罪。
[案件][2]2019年7月至9月，被告人叶**以牟利为目的，在闲鱼、贴吧、微博、QQ群等渠道发布广告，价格从75元到99元不等。在线销售名人换脸视频。其中，在小猪发卡平台“老赛咖啡”店销售获得2万余元，通过“大金小江移动”的富卡电子支付收款码销售获得3万余元。店铺”。上述出售的视频已被公安机关认定为淫秽物品。被告人蒋**明知被告叶森源出售淫秽视频牟利，仍将自己的富卡电子支付收款码提供给被告叶森源使用，并收取3000余元。
【法院判决】被告人叶**犯贩卖淫秽物品牟利罪，判处有期徒刑三年，并处罚金十万元。被告人蒋**犯贩卖淫秽物品牟利罪，判处拘役五个月，缓刑十个月，并处罚金人民币一万元……
3、敲诈勒索罪
互联网平台大大降低了谣言的传播成本，而谣言往往需要很长时间才能消除。即使最终真相大白，谣言已经在观众心中扎根，公众形象受损，损失往往是不可挽回的。正是从这时起，犯罪分子将敲诈勒索的目标转向了公务员、名人等公众人物。他们利用AI换脸技术制作出轨、卖淫、行贿等视频，对受害人进行敲诈勒索。为了避免自己的形象受损、事业受到影响，受害者往往要承受装傻的后果。在这种情况下，犯罪分子就有敲诈勒索的嫌疑。
【案例】嘉兴海宁青年小王遭遇“裸聊”骗局。他误以为只要不脱衣服就不会发生任何事，于是打开镜头，只露出了自己的脸。身体的其他部位都被完全遮住了，但他没想到，没过多久，女网友就威胁他，“如果你不转钱，你的裸聊视频就会立即曝光。”还没等小王反应过来，对方直接发来了“不雅视频”，并要求转账2888元。原来，骗子利用AI换脸合成技术，用小王的脸制作了一段不雅视频。幸运的是，小女王通过报警避免了被勒索的厄运。
4. 欺诈
【案件】近日，南京警方接到小李报案，称自己被骗3000元。小李介绍，一名大学同学通过QQ向她借钱，对方进行了视频通话，只持续了四五秒。小李见确实是他，就放心地把钱转了出去。她在第二次转账时发现异常，再次拨打对方的电话，却得知同学的账号被盗了。警方判断，该视频很可能是被人替换的。目前，警方已立案。
5、非法利用信息网络罪
6.非法侵入计算机信息系统罪、非法获取计算机信息系统数据罪、非法控制计算机信息系统罪、提供入侵、非法控制计算机信息系统程序、工具罪
AI换脸实现了人物肖像的动态化，可以突破一些需要人脸识别的设备解锁或验证环节。据报道：研究人员正在测试“口罩能否代替人脸来解锁手机”。研究人员将面罩放在手机对面，然后调整光线、色温和角度。经过多次比对，手机解锁成功。不同的人脸识别场景，识别的人脸特征点数量有明显差异，安全性也有很大差异。对于一些技术条件相对落后的网站平台来说，如果没有专门针对生物识别的活体检测技术，AI换脸可能很容易突破限制，实现数据采集、修改、传输等目的。
[案件][3]2020年2月至4月，被告人岳某、谢某购买“e2eSoftVCam”摄像头辅助软件，并从苹果手机下载“易换脸”软件，违反国家规定。在车辆违章处理业务中，在国务计算机信息系统“交管12123”登记过程中，利用上述软件规避实人认证，非法登记绑定车辆进行车辆违章处理。期间，付某、周某（均分案办理）帮助被告人实施上述行为。 2020年3月，被告人谢某、岳某等人在受害人郭某、邓某不知情的情况下，从其过期驾驶证中扣分，为云南、广东等地的违法者办理车辆违法行为。
【法院判决】被告人谢某犯非法侵入计算机信息系统罪，判处有期徒刑六个月。被告人岳某某因非法侵入计算机信息系统罪，被判处有期徒刑六个月。
四、AI换脸技术的合规使用
2020年1月1日实施的《网络音视频信息服务管理规定》第十一条规定，“任何基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的行为”第二款规定，“制作、发布、传播虚假新闻信息”为禁止行为。第十二条、第十三条规定了网络音视频信息服务提供者的平台责任：上述规定初步建立了“个体-平台-监管部门”的监管机制，划定了应用的合规边界。 “AI换脸”技术。
五、结语
互联网缩短了人与人之间的距离，让彼此的适当空间和隐私更加珍贵。互联网上海量信息触手可及，但关键个人信息仍应禁区。人工智能的发展以隐私保护为基本伦理规范，“AI换脸”等人工智能深度学习技术必须在制度框架内发展。法律作为社会调节的重要手段，也应该跟上技术发展的步伐，应对风险社会背景下的新一轮“技术挑战”。
参考案例
[1] 滦平县公安局行政处罚决定书滦工（科长）处罚判决书字[2021]0041号（2021.01.17）
[3]谢康、岳安安非法侵入计算机信息系统一审刑事判决书（2020）豫0728行初245号
标签：
用户评论
哇，AI换脸技术发展太快了，真是眼见为实都不够用了。感觉以后看新闻都要怀疑一下真假了。
有12位网友表示赞同！
确实啊，这“眼见为实”都被AI给颠覆了。法律规制得跟上步伐，不然真不知道会乱到什么地步。
有15位网友表示赞同！
每次看到AI换脸的新闻都心里发憷，这要是用在恶作剧上，后果不堪设想啊。
有20位网友表示赞同！
这AI换脸技术太强大了，但同时也带来了很多法律问题，希望有关部门能好好规范一下。
有17位网友表示赞同！
法律规制“AI换脸”乱象，这个话题很有深度。毕竟现在谁都不敢保证自己不会成为被换脸的对象。
有9位网友表示赞同！
我朋友就被AI换脸视频整了一次，真是有苦说不出。这法律得赶紧跟上，不然社会风气怎么得了。
有20位网友表示赞同！
AI换脸技术本身是好事，但乱用的话就变成了害人的工具。法律规制刻不容缓啊。
有15位网友表示赞同！
以前觉得“眼见为实”是金科玉律，现在想想，AI换脸让人防不胜防。法律得保护我们的权益。
有12位网友表示赞同！
AI换脸乱象太严重了，法律不规制，那我们还有什么隐私可言？
有8位网友表示赞同！
这AI换脸技术太神奇了，但同时也暴露出法律监管的不足。希望相关部门能早日出台相关规定。
有9位网友表示赞同！
看到AI换脸的新闻，心里不禁感到恐慌。法律规制要赶紧跟上，保护我们的合法权益。
有19位网友表示赞同！
AI换脸技术的出现，让人对“眼见为实”有了新的认识。但随之而来的法律问题也不容忽视。
有20位网友表示赞同！
这AI换脸技术太可怕了，感觉自己的形象随时可能被篡改。法律规制真的刻不容缓。
有12位网友表示赞同！
“眼见为实”的时代已经过去了，AI换脸技术让我们对真相有了更多疑问。法律规制势在必行。
有13位网友表示赞同！
AI换脸乱象让人防不胜防，法律规制要尽快出台，防止这种现象进一步恶化。
有11位网友表示赞同！
这AI换脸技术太先进了，但同时也带来了很多法律问题。希望有关部门能够尽快解决。
有19位网友表示赞同！
看到AI换脸的新闻，心里不禁为受害者感到不平。法律规制要保护我们的权益，不能让这种乱象继续下去。
有18位网友表示赞同！
AI换脸技术让人对“眼见为实”有了新的认识，但同时也暴露出法律监管的漏洞。希望有关部门能加强监管。
有10位网友表示赞同！
AI换脸乱象让人担忧，法律规制是时候出手了。我们要保护自己的合法权益，不能让这种现象泛滥。
有9位网友表示赞同！