□董彦如（复旦大学）

5月22日，安徽何先生被AI换脸技术电信诈骗，对方使用AI智能换脸和拟声技术佯装朋友拨打微信视频电话向其借钱，短短9秒钟骗取132万。无独有偶，近日包头警方发布一起AI诈骗典型案例，福州市郭先生在AI换脸技术的蒙蔽下，10分钟内被骗430万元。

两起案件曝光后，相关话题很快登上热搜，引发公众普遍焦虑。短短两天，教你如何防止AI诈骗的微信小视频总播放量高达50万；而对于新闻所宣称的“AI诈骗成功率高达100%”，一些网友更是表示担忧，称“被骗风险太高”“防不胜防”。

其实，公众的焦虑源于对智能技术未知的恐慌。无论是AI换脸尖端的技术手段、难以察觉的诈骗圈套，还是9秒钟骗取132万的超高效率，都打破了公众对于电信诈骗的传统认知。这就好比，在战场上，我方刚能抵御刀枪剑棒的攻击，敌人就换上了更“先进”武器，第一次见识到新型攻击，怎让人不惧怕？

由此可知，AI换脸技术亟需祛魅，只有公众真正对其了解后，才能对AI诈骗有效预防。而针对智能换脸技术设立技术红线与具体法规，无疑是祛魅的必要手段。

算法推荐机制是此前几年新兴、如今被各大平台广泛使用的科技手段，在最初发展时期发生多起利用算法推荐进行诈骗、侵犯隐私权的不法案例。2021年国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，专门设规约束其发展。在设立、遵循法规的过程中，公众对于算法推荐机制究竟为何、平台是否应对算法推荐机制负责等进行广泛讨论、举证，算法推荐机制内核也逐步被大众所熟知、了解。在此基础上，不少用户分析算法推荐运作规律尝试“反诈骗”，比如用“不登录、不点赞、不关注、不评论”的方式减少留痕；又比如针对不同的场景训练不同的账号“对抗算法”……

AI换脸技术与算法推荐相类似，同为正在“野蛮生长”的新兴科技手段，所以，只有像算法推荐机制那样通过社会的讨论与监管，进而设立明确法规，才能对换脸技术“既见皮相，又见骨相”，精准找寻反诈规律。毕竟，就好比将猛兽置于可控制的笼子那样，只有将智能AI技术置于严密的法律网中，才能保证“猛兽”不会失控、中伤他人，公众对此的恐慌情绪与妖魔化猜测才能逐渐消失。

不仅如此，更引人深思的是，通过祛魅与约束，AI技术或能成为反诈系统的强有力技术工具。在理论方面，北京市海淀区人民法院庭长杨德嘉指出，如今商业化、市场化的技术应用，本身技术中立，在开发和使用中体现使用主体鲜明的价值追求。AI换脸技术属于商业化、市场化的技术应用，故它本身技术中立，可被开发、应用检测、判断合成人脸概率的能力，从而实现反诈价值。

在实践方面，国家反诈中心已有“以子之矛，攻子之盾”的应用先例。反诈中心通过大数据检测、分析信息、数据挖掘和对比等数据算法技术，来对付同样利用大数据信息实施的各式诈骗，在2022年利用公安大数据产出预警线索4170万条，破获电信网络诈骗案件39.4万起。而同样作为智能技术的AI换脸，未来或许也能成为如此对抗AI换脸诈骗的反诈武器。

事实上，针对AI换脸诈骗潮，技术红线与具体法规出台的加快也体现出公众熟悉速度、社会监管效率的提升。相关平台、法规机构已经对此做出初步举措：2022年12月，《互联网信息服务深度合成管理规定》规定，对于人脸生成、替换、操控，合成人声、仿声、沉浸式拟真场景等生成或者显著改变信息内容功能的服务均设立明确约束；2023年5月9日，抖音平台正式发布《关于人工智能生成内容的平台规范暨行业倡议》；5月24日中国互联网协会针对两起诈骗案件发布AI反诈启示。

当人们对于新兴技术的反应速度越来越快，也就越容易看到“硬币的反面”。如何全面、客观地认识硬币的双面性，如何更快更好地将它“翻过来”，是我们在与科技的相处中仍需学习与探索的事情。