确认过长相和声音，但是，短短10分钟内仍然被骗430万元，一起利用人工智能（AI）实施电信诈骗的典型案例冲上热搜，引发全网关注：近日，犯罪分子利用微信视频冒充某公司负责人好友，获得该负责人430万元的转账，事后，郭先生拨打好友电话，才知道骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。
据警方介绍，AI诈骗有不少花样，通过声音合成、AI换脸、转发语音等手段，成功率竟然接近100%。AI技术如何介入新骗局，有哪些新的诈骗方式？针对花样翻新的智能AI诈骗，应该如何加强对AI换脸技术的监管？欢迎收听今天的《新闻天天谈》。
2023年5月25日，黄晓宇律师就近日引起社会广泛关注的AI换脸式诈骗接受北京新闻广播采访，发表了律师观点。
背景事件：
近日，包头市公安局电信网络犯罪侦查局发布了一起使用智能AI技术进行电信诈骗的案件。
据介绍，4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他。短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，想借用郭先生公司的账户走一下账。
好友向郭先生要了银行卡号，声称已经把钱打到账户上，还把银行转账底单的截图发给郭先生。基于视频聊天的信任，郭先生没有核实钱是否到账， 于11时49分先后分两笔把430万元给对方打了过去。
可当郭先生主动给好友微信发消息，称事情已经办妥时，好友竟然不知情。他这才意识到遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。
“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时给我打了视频，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生说。
值得注意的是，骗子并没使用一个仿真的好友微信添加郭先生为好友，而是直接发起的微信视频聊天，这也是郭先生被骗的原因之一。
说到郭先生10分钟内被骗430万元的事件，说起来也还算幸运，在接到郭先生的报警之后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但是，仍然有93.16万元被转移，目前正在全力追缴中。
其实，这并非AI诈骗的首批案例，此前也发生过多起。媒体报道，2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频， 截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。
浙江温州公安曾发布消息，2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查， 对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。
此外，在2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。
记者：刚刚我们说到了AI诈骗的多起案例，想请您帮我们分析分析这里面的法律关系和法律责任。在网络上，耳听不一定为实，眼见不一定为真。在AI技术大爆发的当下，高科技犯罪手段也随之更新。那么，从法律角度来看，怎么给“用AI换脸技术”实施诈骗的这种行为定性？
黄晓宇：我们看到，随着社会的发展和科技进步，诈骗的手段也在不断升级，之前更多发生的，是熟人、朋友之间通过虚构事实诈骗，到后来比如通过电话诈骗，什么虚假中奖、冒充公检法人员诈骗，接着到现在又出现AI换脸诈骗，花样翻新，层出不穷。
我认为，无论使用的是AI换脸技术，还是换声技术，还是其他的高科技技术，从本质上讲不法分子实施的还是诈骗行为，分析综合来看呢，基本上也都符合诈骗罪的基本犯罪构成，首先是不法分子实施了一个欺骗行为，然后让受害人产生错误认识，基于这种错误认识，受害人处分了自己的财产，不法分子再获得了受害人的财产，因此还是属于我国《刑法》266条对于诈骗罪的定义。是一种严重侵害公民财产权益的违法犯罪行为。
记者：根据目前的法律条款，利用“AI换脸”的方式诈骗，会受到怎样的处罚？
黄晓宇：使用AI换脸方式实施诈骗的定罪量刑，应该还是基于诈骗罪的定罪量刑来走的。那么根据我国刑法和相关的司法解释，诈骗罪的起刑点是3000元，诈骗3000元，就将面临3年以下有期徒刑的处罚。数额特别巨大或者有其他特别严重情节的，最高可以处无期徒刑的处罚。
那么依据两高的相关司法解释，还有一个严惩电信网络诈骗犯罪的加重情节，就是通过短信、电话或者利用互联网对不特定多数人实施诈骗的，或者是诈骗残疾人、老年人这样的弱势群体财物的，还将从重处罚。那么从这么来看，使用AI换脸方式诈骗他人，必然也就离不开互联网，那么是符合司法解释里这一条规定的。
应该说无论是从刑法规定还是相关司法解释来看，我们国家对于诈骗的，特别是电信网络诈骗的惩罚力度还是很大的。另外我们从新闻里经常可以看到，我们国家和其他国家和地区的执法机构，也经常合作打击电信网络诈骗，这也体现了这种不法行为，在全球范围内都产生了巨大危害。
记者：我们也关注到，最近，网上出现了一些“换脸直播”的教程，声称通过相关软件就可以换上一张明星艺人的脸，可以更好地直播带货。一些直播间，不少主播纷纷采用了AI换脸明星的方式进行直播带货，杨幂、迪丽热巴、angelababy等当红女星，成为了“AI换脸”的重点对象。但是，AI换脸直播带货，是不是也不是随随便便想换就能换的？
黄晓宇：这属于是当前比较热门的一个话题，按照你所说的，有人用AI换脸，换成明星脸去直播带货，我们先不谈法律，按照社会大众的理解去分析。人家明星的出场费那么高，你们却用AI的方式抢人家饭碗，人家明星以后靠什么吃饭？所以明显这种行为一看就是有问题的。
那么从法律角度来看呢，我这里所说的是民事法律角度，这种行为主要涉及这么几方面，一个是侵犯明星的肖像权，比如在未经许可的情况下，擅自在“换脸”技术中使用含有他人外在真实容貌特征的照片，且以营利为目的，一般司法实务中会认定成肖像权侵权。如果“换脸”到一些侮辱、不雅的视频里，可能造成他人社会评价降低的，还可能构成侵犯名誉权。
你提到的是把明星的脸换到自己头上，说白了就是自己的身体组合明星的脑袋这种情况。那么还有一种，就是把自己的脸换到一些影视作品里明星的脸上，就是明星的身体组合自己的脑袋，那么这种情况很可能在上述侵权行为的基础上再加上一条，因为这些作品很多都是有著作权人的，那么就可能还会构成侵犯他人著作权这一情形。
记者：不少换脸直播中，主播不会直接提到相关明星艺人的名字，没有进行必要的“事前声明”，但也不会主动声明或者否认，直播过程中也没有打出显著标识提醒观众。这种会产生怎样的误导影响？即使是特别声明的话，是否也违反了相关的法律规定？
黄晓宇：说到这个问题，就要谈到今年1月起开始施行的，由网信办、工信部和公安部公布的《互联网信息服务深度合成管理规定》了，其中16、17、18条都对深度合成服务规定了应当添加标识，其中还特别提到了——人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务的时候，也就是可能导致公众混淆或者误认的这种视频或者服务的时候，应当进行显著标识，向公众提示深度合成情况。我看现在有采取这种技术生成的视频，写上了“本视频由AI合成”这种标识来提醒观众。
那么我们来说另外一个问题，是不是标识了，就万事大吉了？当然不是，是否标识和是否侵权是两个问题。即便标识，也不可以侵犯他人的肖像权、名誉权和著作权。《管理规定》的第六条也谈到了，不得利用深度合成服务制作侵犯他人合法权益等法律、行政法规禁止的活动。
记者：如果利用AI技术假冒他人身份，但是并没有用于盈利、也不用于诈骗的话，是否触犯了相关的法律或者条例法规？
黄晓宇：我们要明确一点，利用AI技术假冒他人身份，这种行为本身就属于违反法律规定的行为。所谓的他人身份，在今天我们讨论的话题里，应该指的是假冒他人的面部、身体这种生物特征。
民法典1034条规定了，自然人的个人信息受法律保护。那么什么是个人信息，是指以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息，其中就包括了生物识别信息。其他法律法规，比如个人信息保护法、网络安全法，都有着对保护自然人生物信息安全的相关规定。
记者：在“AI换脸”的直播带货中，怎么认定相关平台的法律责任？
黄晓宇：我觉得这确实是一个难题，现在直播带货如火如荼，每天晚上开播的频道成千上万。如何有效监管确实很考验平台的监管能力。
对于平台的责任，我看到有媒体引用了《电子商务法》的规定，电子商务平台经营者知道或者应当知道平台内经营者侵犯知识产权的，应当采取删除、屏蔽、断开链接、终止交易和服务等必要措施；未采取必要措施的，与侵权人承担连带责任。认为平台应该承担责任。但我对这种观点还持有异议，像刚才提到的肖像权这种，又不属于知识产权，属于人格权，所以在立法层面对于平台的责任还没有一个非常明确的要求。当然法律存在一定的滞后性是一种非常正常的现象，那么像这种AI换脸的新生技术带来的问题，我像在今后会通过补充修改的方式，加入到相关的法律当中的。
我们说法律规定是不能突破的底线，那么作为平台可以适当在法律规定的基础上适当提高要求，对直播采取的技术手段加以规范， 比如有相应的措施对AI技术的直播间重点关注，提前报备审批，避免出现侵犯他人权益的事情发生，我觉得也不是不能实现。
记者：我们刚才也提到了，根据警方介绍，AI诈骗通过声音合成、AI换脸、转发语音等手段，成功率竟然接近100%。如今，AI技术的发展已经成为一个不可逆转的趋势，随着AI技术和计算机图形学的进一步发展，数字虚拟人将会变得越来越逼真和精细。那么，在您看来，我们需要正视生成式AI可能带来的哪些风险? 从完善法律法律的角度来看，需要做一些什么来规避这些风险?
黄晓宇：我觉得AI技术，也就是人工智能技术的爆发，彻底颠覆了很多行业的发展。像我们今天所谈到的AI换脸、换声，其实只是一个AI技术里一个小小的分支。在艺术领域，有通过AI来生成插画的，有声音说插画师都要下岗了。还有金融领域，甚至目前还有AI深度学习这种方式来进行投资的。
如何来规定AI技术带来的风险，我们首先应该明确一个问题，就是如何看待AI技术所生成的产物。这种生成物是否具有所有者或者权利人。权利人是属于某种AI技术的创造者，还是具体实施AI技术的行为人？如果认为AI生成物没有所有人或者权利人，是否意味着不受法律保护？这都是现在法律上比较前沿的热点问题。
我认为，想要真正的规避风险，从根本上讲首先就要确定这个问题，才能真正解决后续的风险。举个例子，比如未来确定了，AI技术的实施者是AI产物的权利人，那么同时也就要承担相应的义务，保证他所做出的AI产物不存在侵犯他人权益的情形，不被用于违法犯罪活动。那么如果是AI技术创造者是权利人，那么他一样也要保证自己从设计程序开始，就要规避违法违规的模型、数据和算法。
这些问题都是在考验着我们立法者如何找到在科技创新和保护自然人、社会公众等等权益之间的最佳平衡点。我相信，以我们中国人的聪明智慧，肯定会找到这个即推动科技发展又兼顾保护公众利益的点的。
原文链接：https://mobile.tingtingfm.com/v3/vod/2/Vob5s7VBEd
