□卓玛措吉（华南理工大学）

近日，多个账号使用全红婵接受采访和其家人直播画面，用AI合成相应声音，用于带货土蜂蜜等商品。据悉，在社交平台上已经出现多个账号使用AI合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，以此博取流量。AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中，不乏有人被骗下单购买。（4月29日 封面新闻）

不法分子的诈骗手法呈现出精准的“技术+人性”双重操控特征：他们捕捉到全红婵家人此前公开表达的“希望盖个房子，让孩子回来的时候有房间住”的朴素愿望，利用AI生成高度仿真的家人声音与场景，虚构“建房庆典带货”的虚假剧情以推销商品。这种将技术工具异化为诈骗手段的行为，本质上是对公众人物家庭信任的系统性透支——当名人亲属的真实生活片段被拼接成牟利剧本，当AI生成的虚假语音带着“家人温度”推销商品，技术的仿真性便成为击穿信任防线的利器。

事实上，此类技术滥用并非个案。演员刘晓庆、张馨予等公众人物的AI合成形象与声音，此前已被非法应用于减肥药推广、游戏代言等虚假广告，形成横跨多个领域的黑色产业链。AI技术的“双刃剑”效应在此类事件中被极端放大：一方面，高度逼真的合成内容让普通用户难辨真伪；另一方面，依托算法推荐的病毒式传播，虚假信息的扩散速度与破坏范围远超传统诈骗手段，正在对社会信任体系造成结构性冲击。正如全红婵父亲在接受采访时无奈表示：“有人用AI伪造我们一家人的声音卖蜂蜜，蜂蜜才十几块钱一斤，成本都不够。”这番话语不仅揭露了骗局的荒诞，更暴露出受害者在技术鸿沟前的无力——当技术作恶突破个人维权能力边界，暴露出的是技术治理、法律规制的多重短板。

从“全红婵家人建房带货骗局”到“张馨予被AI合成声音卖减肥药”，这些事件的共性特征在于：不法分子利用技术红利实施“信任套利”，将公众对名人的情感认同转化为诈骗筹码。遏制此类乱象，需要构建“技术防控-法律规制-社会共治”的三维治理体系：在技术层面，应推动平台研发更精准的AI内容检测工具，通过生物特征识别、数字水印等技术实现“以技术反制技术”；在法律层面，需加快出台AI合成内容管理专项法规，明确技术应用边界、侵权认定标准与法律责任，尤其要加大对伪造相关文件、消费公众信任等情节的惩处力度；在社会层面，建立便捷高效的侵权举报机制，鼓励公众参与内容监督，同时引导技术开发者树立伦理意识，拒绝为恶意应用提供技术支持。

当AI技术能够轻易复制人类的声音与形象，当算法可以批量生产以假乱真的“虚拟人生”，我们既需要筑牢技术治理的“防火墙”，更要重构技术应用的伦理坐标系。唯有通过法律的刚性约束、技术的创新赋能与社会的协同共治，才能让人工智能真正成为增进人类福祉的工具，而非消解信任的腐蚀剂。这不仅是对技术滥用的警示，更是对整个社会在数字时代如何守护真实与信任的深刻叩问。