ai换脸的法律问题「眼见为实AI换脸乱象的法律规制」

2017年12月，Reddit网站上一位用户名为“deepfakes”的网友发布了自己制作的换脸视频，他将成人影片的女主角换成了神奇女侠盖尔·加朵，短时间内吸引了大批关注。2019年，B站UP主“换脸哥”将94版《射雕英雄传》中饰演黄蓉的朱茵换脸为杨幂引发全民关注，后因涉嫌侵犯肖像权，视频被制作者删除。2019年8月，陌陌旗下的ZAO换脸软件大火，但因过度收集用户个人信息而被工信部约谈，如今早已风光不再。2021年“吗咿呀嘿”魔性换脸应用“Avatarify”刷屏各大社交平台，然而该应用火了不到7天就被苹果应用商店下架。

从上述事件可以看出，AI换脸技术在应用过程中屡屡碰壁，其风险已经引起了社会的普遍重视。AI换脸技术在为人们带来新奇体验的同时，也对社会秩序形成了巨大的技术风险。肖像权是现代社会中个人最核心的信息，以人脸识别技术为支撑的设备解锁、移动支付、软件验证、行程监测、身份核实、监控追踪等功能关系着衣食住行各个方面。肖像最重要的功能在于身份识别，而换脸的目的正在于引起身份信息认知的混乱，属于对目标对象感官的欺骗，因而AI换脸技术本质上属于一种制造“虚假信息”的手段，这是其技术“原罪”。

制作AI换脸视频需要一定量包含人脸识别信息的视频或图片，而实践中获取信息的过程大多并不能满足“同意”为前提的个人信息使用规则。信息化时代下，个人信息被泄露和滥用，往往意味着个人正常生活秩序的丧失，而且为违法犯罪行为的滋生提供了温床。因此无论是个人或是法律，均非常重视对个人信息权益的维护。2021年1月1日生效的《民法典》专设人格权编，保护肖像权等重要人格权益，并明确对肖像权的侵犯不以“存在营利目的”为构成要件。2021年8月20日，全国人大常委会发布《个人信息保护法》，为网络安全、数据合规划定了法律边界。AI换脸技术游走于法律边缘地带，与公民肖像权、名誉权、隐私权、个人信息、著作权等权利息息相关，合法与违法往往只在当事人一念之间，本期刑事私董会以“AI换脸”这一热门话题为切入点，分析讨论互联网时代下个人权益保护的问题。

AI换脸是deepfake（深度伪造）技术的最广泛应用之一，不同于PS的图像移动，AI（人工智能）技术是基于神经网络产生，通过模拟人的大脑，用无数的神经元来处理复杂问题的一项技术。被举报封号后，作者“deepfakes”在GitHub（世界上最大的代码托管平台）上公开了软件代码，后经过不断改进，如今AI换脸软件的易用性、执行速度和成像质量都有了显著提升，普通人经过初步的学习完全可以掌握基本的操作方法，而且还产生了基于相关技术的APP应用，使得该技术更加普及。

以DeepFaceLab软件为例，为了实现换脸，使用者需要提供两类素材：贡献五官的视频或图片（Source）和贡献场景的视频（Destination），分别简称为：SRC视频和DST视频。为了实现换脸，需要软件运行以下程序：①处理SRC视频，提取人脸信息；②处理DST视频，提取人脸信息；③训练从SRC到DST的模型；④合成新的视频。素材的丰富程度、模型的优劣和迭代次数决定了最后视频成像的效果，设备硬件和数据处理能力决定了转化速度，个人操作换脸一般可以在数个小时内完成，而使用换脸类APP，视频生成时间时间还会大大缩减。

AI换脸技术首先在影视制作行业被广泛使用。在影视作品制作过程过程中，若需要临时更换演员，为避免大范围返工，后期人员便可以利用换脸技术实现演员更迭的“无缝衔接”，这一操作过程较为规范，且以征得演员同意为前提，不存在侵权的风险。但在该技术向普通群众推广的过程中，因为缺乏有效监督，极容易被误用和滥用，本部分首先介绍AI换脸技术在实践中的主要使用主体和用途。

（一）普通个体使用——以娱乐为目的

普通个人体验AI换脸技术，多是通过互联网软件公司开发的相关APP实现，AI换脸在软件后台服务器完成，用户只需要提供换脸素材即可，替换视频片段由软件开发商提供，因而在一定程度上避免了“恶意使用”的情形。以“ZAO”软件为典型。用户将自己或他人的面部信息嫁接到某个特定的视频片段中去，实现自己和偶像或是朋友“飙戏”的梦想，从而获得一定的精神愉悦和独特体验。但也可能存在恶意使用的情形，当用户自己使用相关软件（如OpenFaceswap、DeepFaceLab、Fakeapp等）制作换脸视频时，因SRC素材和DST素材均可由自己选定，因而就会出现使用他人肖像在一些“非友好视频”中制作换脸视频等恶意使用的情形。

（二）视频制作者、分享者

在换脸类APP兴起之前，AI视频换脸技术的主要使用群体是各短视频网站的视频制作者，换脸的目标对象往往是具有一定知名度的公众人物，例如此前颇为流行的蔡徐坤、马保国、川普等等……换脸的目的在于形成一定的喜剧效果，主要用于吐槽、搞笑等。

例如，上图视频片段是B站某位UP主将《亮剑》（DST视频）和《铁齿铜牙纪晓岚》（SRC视频）中两位主演的肖像替换后生成的视频（注：视频于2021年9月25日上传，目前已删除），视频效果几乎达到了以假乱真的程度。

（三）犯罪分子——供犯罪使用

因“换脸”可以实现以假乱真的效果，使人产生认识错误，因此，AI换脸技术也多被用以实施犯罪。具体可包括如下形式：

1. 诈骗、敲诈勒索。通过AI换脸技术制作可使人产生错误认识的视频（如绑架视频、裸聊视频、嫖娼视频），被害人可能因错认、恐惧等心理（非自愿）向犯罪人交付财物。由此可构成诈骗罪、敲诈勒索罪等犯罪。

2. 造谣。在个人纠纷、商业竞争、政治斗争乃至国家对抗中，为了报复、打压对方，部分犯罪分子利用AI换脸技术伪造对相对方不利的信息，影响对方的声誉或形象。

3. 制作淫秽物品。犯罪分子将色情影片中主人公的面部信息替换成明星或普通人的面部信息，由此形成新的淫秽物品，淫秽物品可能用于自己观看、向他人传播、组织特定群体观看、上传至公开平台供免费/付费观看、出售。

4. 伪证。视频属于电子数据，属于法定证据种类之一，其包含的证据信息十分丰富，但也存在着已被篡改的风险。AI换脸技术如果用于伪造证据，可能会影响法官的判断，根本上影响法院判决结果。

三、AI换脸技术的法律风险

（一）AI换脸技术可能涉及的民事侵权风险

1. 侵犯肖像权

肖像是个人最为重要的核心信息，肖像权是事关人格尊严的基本人格权利，作为一种绝对权，具有排除一切侵害行为的法律效力。当使用他人面部信息用于制作换脸视频时，如果未经他人同意，无论是否以营利为目的，均涉嫌侵犯他人肖像权。《民法典》第1019条规定了肖像权的消极权能：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外（《民法典》第1020条规定的“合理使用”的情形）。

【案例】因肖像被用于AI换脸视频，林俊杰向上海市杨浦江区人民法院起诉上海宽娱数码科技有限公司（B站）及其UP主肖某侵犯肖像权。

2. 侵权著作权

为了完成换脸，使用者需要提供DST视频（即贡献场景影片），实践中多为影视作品、色情影片。色情影片属于违法作品，尽管有著作权，一般都不会向法院申请保护。影视作品属于合法作品，享有包括保护作品完整权、信息网络传播权等在内的著作权。演员作为表演者，根据《著作权法》第39条的规定享有表明表演者身份；保护表演形象不受歪曲等邻接权。因此，如果在AI换脸过程存在故意恶搞、公开传播等情形时，便有可能会涉嫌侵犯著作权。

（二）AI换脸技术可能涉及的行政违法风险

《治安管理处罚法》第42条规定：有下列行为之一的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。……（二）公然侮辱他人或者捏造事实诽谤他人的；（五）多次发送淫秽、侮辱、恐吓或者其他信息，干扰他人正常生活的；（六）偷窥、偷拍、窃听、散布他人隐私的。

【案例】[1]2020年6月份，梁x因曾与同事满x发生矛盾，通过QQ软件找到会p图的陌生人，将满x的面部照片和一段色情视频发给对方，对方通过AI换脸把色情视频里面的女人面部换成满x的面部，梁x将换脸后的视频截图，通过WPN（翻墙软件）多次在国外推特上发布，并附带侮辱性的文字及满x的联系方式。后梁x又新注册的QQ账号，通过QQ发布满x照片和一些侮辱满x的文字及满x的联系方式，梁x的行为给满x造成极为恶劣的影响。

【处罚结果】行政拘留十日，并处罚款伍佰元整。

（三）AI换脸技术可能涉及的刑事犯罪风险

1. 侮辱罪、诽谤罪

侮辱罪、诽谤罪属于侵犯名誉权的行为，与民法、行政法共同构筑成保护公民名誉权的法律体系。以“将明星换脸到他人出轨视频”为例，如果足以使一般人产生误解，认为该明星存在出轨行为时，则涉嫌构成“诽谤罪”，即使一般人都明知该明星不存在前述行为，非法制作该类视频也同样会构成“侮辱罪”。如果换脸到色情影片中，还会涉嫌构成“制作、传播淫秽物品牟利罪”“传播淫秽物品罪”等罪名。

【案例】2021年8月28日，演员刘昊然工作室报警，称网友利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图，同时还有含有存在诽谤言论的聊天记录。

2. 制作、复制、出版、贩卖、传播淫秽物品牟利罪；传播淫秽物品罪

以牟利为目的，利用AI换脸技术将明星或他人的肖像在色情视频中使用时，构成制作淫秽物品牟利罪。随后出售的，构成贩卖、传播淫秽物品牟利罪。即使不以牟利为目的，仅为了报复或刺激等目的传播相关视频的，也可构成传播淫秽物品罪。应当注意的是，构成相关犯罪，不限于初始制作人和传播人，后续获取该视频后出售、传播的人也会涉嫌构成前述罪名。

【案例】[2]2019年7月至9月，被告人叶**以牟利为目的，在闲鱼、贴吧、微博、QQ群等渠道发布广告，以75元、99元不等价格，通过网络售卖明星换脸视频。其中，通过小猪发卡平台上“老塞咖啡”店铺售卖得款20000余元，通过“大金小姜移动店”福卡e支付收款码售卖得款30000余元。上述销售的视频经公安机关鉴定均为淫秽物品。被告人姜**在明知被告人叶森源销售淫秽视频牟利的情况下，仍然将自己的福卡e支付收款码提供给被告人叶森源使用，并收取费用3000余元。

【法院判决】被告人叶**犯贩卖淫秽物品牟利罪，判处有期徒刑三年，并处罚金人民币十万元。被告人姜**犯贩卖淫秽物品牟利罪，判处拘役五个月，缓刑十个月，并处罚金人民币一万元……

3. 敲诈勒索罪

互联网平台使得造谣的成本大大降低，而谣言从产生到消弭往往需要很长时间，即使真相最终阐明，谣言已在受众的心里扎根，公众形象已经蒙尘，损失往往是不可逆的。犯罪分子正是从这一点出发，将敲诈勒索的目标转向公务人员、明星等公众人物，利用AI换脸技术制作诸如出轨、嫖娼、受贿等视频，向被害人进行敲诈，为了避免形象受损，事业受影响，被害人往往只能吃了这个哑巴亏。此类情形下，犯罪分子涉嫌构成敲诈勒索罪。

【案例】嘉兴海宁小伙小王遇上“裸聊”诈骗，他误以为只要自己不脱衣服就不会有事，于是他打开摄像头，只露出了自己的脸，其他身体部位都遮蔽完好，但没想到没过多久，女网友就威胁他“不给转账，立马曝光你的裸聊视频”，还没等小王反应过来，对方就直接把“不雅视频”发了过来，并要求转账2888元，原来骗子通过AI换脸合成技术制作了一段有着小王人脸的不雅视频。所幸小王后通过报警避免了被敲诈的厄运。

4. 诈骗罪

利用AI换脸技术，犯罪人员可以实现精准诈骗，防止被骗的难度也随之在增加。如不法分子制作绑架视频向家庭成员转发索取财物，如果未进行及时信息核对且不了解现有技术发展程度，极有可能产生错误认识，进而向不法分子交付财物。此类情形下，犯罪人员涉嫌构成诈骗罪。

【案例】近日，南京警方接到小李报警称，被诈骗3000元。小李介绍，大学同学通过QQ跟她借钱，对方打过来一段只有四五秒的视频电话，小李看到确实是本人，便放心转账。她在第二次转账时发现异常，再次拨通对方电话才得知同学的帐号被盗。警方判断，那段视频很有可能被人换了脸。目前，警方已立案。

5. 非法利用信息网络罪

《刑法》第二百七十条之一规定：利用互联网“发布有关制作或者销售毒品、枪支、淫秽物品等违禁物品、管制物品或者其他违法犯罪信息”，构成非法利用信息网络罪。如今在各论坛、贴吧中均有分享AI换脸视频制作的帖子，如果分享者在介绍过程中使用淫秽物品作为讲解素材，或者明示可以使用该技术制作淫秽物品时，此种行为可能涉嫌本罪，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金。

6. 非法侵入计算机信息系统罪、非法获取计算机信息系统数据、非法控制计算机信息系统罪、提供侵入、非法控制计算机信息系统程序、工具罪

AI换脸实现了人物肖像动态化，可以突破部分需要进行人脸识别的设备解锁或验证环节。据报道：科研人员在测试“面具是否可代替人脸解锁手机”中，科研人员在手机对面放上面具，然后进行光线、色温以及角度的调节。通过几次比对，手机成功解锁。不同的人脸识别场景，识别人脸特征点的数量有明显的差异，安全性也有很大区别。对于一些技术条件相对落后的网站平台，如果没有专门针对生物特征的活体检测技术，AI换脸便可能轻易突破限制，实现对数据的获取、修改、转移等目的。

【案例】[3]2020年2月至4月，被告人岳某某、谢某购买“e2eSoftVCam”摄像头辅助软件、从苹果手机下载“轻松换脸”软件，违反国家规定，在代办审车、车辆违章处理业务时，在国家事务的计算机信息系统“交管12123”注册过程中，利用上述软件逃避实人认证，非法注册、绑定车辆进行车辆违章处理。期间，付某、周某（均另案处理）帮助被告人实施上述行为。2020年3月，在被害人郭某、邓某不知情的情况下，被告人谢某、岳某某等人将其临期驾驶证分数扣除，为云南、广东等地违章人员处理车辆违章。

【法院判决】被告人谢某u犯非法侵入计算机信息系统罪，判处有期徒刑六个月。被告人岳某某犯非法侵入计算机信息系统罪，判处有期徒刑六个月。

2020年1月1日实施的《网络音视频信息服务管理规定》第十一条规定“基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。”。第二款规定“制作、发布、传播虚假新闻信息”属于禁止类行为。第十二条、十三条规定了网络音视频信息服务提供者“部署应用违法违规音视频以及非真实音视频鉴别技术”和“健全辟谣机制”的平台责任。以上规定初步构建了“个人—平台—监管部门”的监督机制，为“AI换脸”技术的应用划定了合规边界。

从视频内容来看，虚假新闻信息，谣言属于禁止类内容，不得发布相关视频。从发布程序来看，视频制作者应遵守“知情”“同意”为前提的信息使用原则，使用他人面部识别信息，影视品素材时，应详细说明使用目的、范围、传播途径等，征得权利人的明确同意后方可使用，且应当以显著方式标识为“伪造视频”，否则便有侵权、违法、犯罪之虞。

互联网拉近了人与人之间的距离，彼此适当的空间和隐私反而更显珍贵。巨量的信息在网络触手可及，但个人的关键信息仍应是信息获取的禁区。人工智能的发展以保护隐私为基本伦理规范，“AI换脸”等人工智能深度学习技术必须在制度的框架内发展。法律作为社会规范的重要手段，也应随着技术的发展与时俱进，以应对风险社会背景下新一轮的“技术挑战”。

[1]滦平县公安局行政处罚决定书 滦公（长）行罚决字〔2021〕0041号（2021.01.17）

[2]叶森源、姜志军制作、复制、出版、贩卖淫秽物品牟利罪一审刑事判决书（2020）苏0830刑初106号

[3]谢康、岳安安非法侵入计算机信息系统一审刑事判决书（2020）豫0728刑初245号