吴宇森执导的电影《变脸》（1997年）海报。当年片中主人公换脸通过外科手术实现，如今在网上可以通过AI技术做到。 （资料图/图）

眼前的黑不是黑，你说的白是什么白？这是罗雅萱半年来的内心写照。因意外卷入一场AI骗局，罗雅萱成为一名互联网志愿反诈者。

(资料图)

2023年2月，在意大利生活的罗雅萱在网络上认识了一位年轻男士。对方自称宁波人，生活在法国，从事古董生意。一个多月里，罗雅萱常常与他交流工作和生活，以“弟弟”相称。3月份，她一度怀疑对方身份的真实性，于是托国内朋友核实相关信息，一无所得。

罗雅萱提出两人视频通话，没想到对方直接答应。在视频中，这位“弟弟”与她全程互动无碍，相貌也与他之前提供的照片无异。如果没打这次视频，是否会建立信任？罗雅萱明确地告诉南方周末记者，“不会！”“（互动时）跟他说什么、问什么，他都会回答什么”，并非提前录制好的短视频。

十几分钟的视频通话后，罗雅萱彻底打消疑虑。一个月后，罗雅萱提出两人在法国见面，当天晚上，对方的电话便无法打通了。那时，罗雅萱已经被骗投资，转出了第一笔汇款，两千多欧元（约合人民币16000元）。

罗雅萱报警，警察追踪到诈骗者的IP来自中国港澳地区。罗雅萱在网络中寻找线索时，偶然发现了“正主”（照片本人）。他是个台湾人，在港澳地区小有名气，从2021年开始，他的照片便被诈骗者频繁盗用。

据警方分析，诈骗者的声音并非合成的。罗雅萱意识到，自己受到了AI换脸诈骗。当时与自己视频通话的是真人，那张脸，则是诈骗者用软件替换生成的。

反诈时，罗雅萱接触到一位杭州女生，后者被骗上百万元，诈骗者盗用的照片也来自那个“正主”。不同的是，这位杭州女生全程仅仅是和诈骗者语音交流，两人尚未视频通话。

“（正主）长得帅，是女孩子都喜欢的那种类型。”罗雅萱对南方周末记者说。据她调查，互联网上有123个盗用该“正主”图片的账号。国内的诈骗账号经罗雅萱举报后注销，但是仍然有大量海外平台诈骗账号逍遥法外。罗雅萱担忧的是，诈骗者如果使用“素人”的照片，受害者根本无迹可寻。

AI换脸、变声等深度合成技术在互联网上已经被广泛利用，近几年逐渐流入色情影像、网络诈骗等领域，带来肖像侵权、名誉侵权乃至诈骗犯罪等一系列问题。随着AI技术普及，更多成熟的换脸、变声软件出现。至于其使用难度，技术专家、AI行业从业者曾辛告诉南方周末记者，“几乎零门槛”。

换脸技术门槛不断降低，日益普及。图为2021年浙江某景区用于展示换脸应用的智能设备。 （视觉中国/图）

不过，就目前来看，利用AI技术进行的诈骗比例极低。另据新华社报道，公安机关研判，近期网上“AI换脸换声诈骗在全国爆发”传言不实，全国此类案件发生不到10起，但该动向值得高度关注。