近日，“AI诈骗正在全国爆发”冲上微博热搜，一位包头老板被AI换脸10分钟诈骗430万元，引发全网关注。“AI换脸”的法律边界在哪？普通人又该如何防范？

如何破解AI诈骗难题？

在湖北，有不少企业正在升级AI反诈技术，探索使用AI“打败”AI。长江云新闻记者在武汉大千信息技术有限公司看到，在好莱坞电影《双子杀手》的经典场景中，中年和青年的威尔·史密斯同框，一时难辨谁真谁假。但通过检测软件对电影片段进行分析，几分钟时间内，结果就显示，年轻杀手是用AI换脸技术合成的。

(相关资料图)

“系统会提示我们哪一帧出现了异常，年轻的威尔·史密斯上显示了篡改概率97.69%，中年的威尔·史密斯一直是个绿框，表示他是一个正常的人脸。”武汉大千信息技术有限公司产品经理董骏告诉记者，AI伪造人脸的五官、轮廓，包括融合的方式，都会存在这种算法特带的一些特征值，检测原理就是找到它相应的伪造规律，针对目前市面上大部分的AI篡改软件，都可以进行有效的识别，检测成功率在95%左右。

如今，武汉大千这套算法更新迭代了上十次，获得了国家专利认证，在湖北、北京、天津、重庆等地公安系统的案件侦查中进行了应用，还与东莞市公安局合作，在公安专网推出了“AI换脸”在线检测平台。

AI换脸诈骗应该怎么预防呢？

当你跟朋友视频的时候，如果你怀疑遇到了“AI换脸”诈骗，教你用三步教你识破对方是否为AI：看面部是否扭曲、让对方吐舌头、聊天检验谎言。

第一步，你可以要求对方用一个手指，在面部前来回晃动，或者说用手掌来挡住一部分的脸。因为犯罪分子训练AI算法时，多使用的为正面照，所以程序无法处理好突然在面前出现的物体。因此，你突然要求朋友在视频的时候，伸出手指在面部摇晃，面部就会出现扭曲、变形。

其次，你可以要求对方吐舌头，如果骗子技术手段较弱，那么有可能发现对方面部边缘或者牙齿的瑕疵，从而识别出AI换脸。

最后，除了动作上的识别，你还可以找对方聊一些只有你们知道的事情，来核实他的身份，一定不要急着给对方转钱。

使用“AI换脸”涉及哪些法律风险？

武汉大学教授、湖北珞珈律师事务所兼职律师王清介绍：“我们国家的现行法律当中，有国家网络安全法、数据安全法、个人信息保护法和民法典，都对我们个人的人脸、人身等，这些生物识别信息都有相关的规定，用AI换脸伪造不良不雅视频，这种行为已经构成了我们刑法当中的敲诈勒索罪、诈骗罪，以及制作和传播淫秽物品牟利罪。从民事的角度来说的话，如果还不构成这些犯罪行为的话，他至少侵犯了民法典所规定的，公民是依法享有的肖像权、隐私权和声音权，所以如果说侵犯了这些民事权益的，我们可以根据民法典的相关规定，追究其民事责任。”

为防范AI技术被滥用，国家制定出台或正在拟定相关法律规定。2023年的1月10日，国家网信办、工信部和公安部就联合发布了《互联网信息服务深度合成管理规定》，就是规定提供（AI）信息服务的深度合成的提供者，必须采用技术和人工的手段，对企业的内容进行审核，要对它生成的内容在显著的位置进行标识，对使用者他的真实身份信息进行认证。4月国家网信办又发布了《生成式人工智能服务管理办法暂行（征求意见稿）》，具体针对了生成式用户使用平台的规范，可能在年内就要颁布实施了。

→长江评论：促进“AI技术”向上向善

“AI换脸”技术 带给人新鲜感的同时，非法滥用导致的侵犯隐私、危害数据安全、违法犯罪等问题层出不穷。让很多人感觉“AI换脸”技术，就像打开了“潘多拉的魔盒”。其实，“AI换脸”技术是数据智能化发展的产物，科技本身并没有好坏之分，但是高科技不能沦为肆意侵权的帮凶，更不能成为非法牟利的工具。为“AI换脸”技术戴上“紧箍咒”、打造“铁栅栏”，筑牢“AI换脸”技术安全的防护墙，还需要法律和技术双管齐下。另外，身处在人工智能时代的每一个人，都应该提高对深度合成技术的辨别和防范意识。只有多方发力，促进“AI技术”向上向善，才能让科学技术真正地助推社会发展，便利人们生活。