□赵明悦(哈尔滨商业大学)
近日,有网友向媒体发来一段视频询问:“张文宏是不是带货了?在卖一种蛋白棒,家里的老人信以为真已经下单,还转发了很多群。”据报道,在名为“般画234”的账号视频中,“张文宏”反复介绍着一种产品,口型是他的,声音也是他的,但稍微懂点AI的人一眼就能分辨出,这是AI合成的视频。此外,该账号的商品橱窗截图显示,这款蛋白棒已售出1266件。12月12日晚,记者已无法在平台搜索到该账号。(12月12日《新闻晨报》)
尽管真相已经大白,但该直播间已售出不少商品,虽然未造成巨大的损失和更广泛的传播,但对于那些信任张文宏而选择下单的顾客而言,无疑是一种伤害。
AI合成技术被滥用的现象屡见不鲜。从“靳东”到“黄百鸣”,再到已故名人被“复活”代言,这些事件暴露了AI技术在不法之徒手中可能造成的严重后果。AI技术的滥用不仅侵犯了名人的姓名权、肖像权、声音权,更是对公众信任的极大破坏。这种技术滥用行为,不仅损害了名人的形象,也威胁到了消费者的权益。
面对AI合成技术的滥用,法律和平台必须承担起相应的责任。平台应严格执行《互联网信息服务深度合成管理规定》,对可能导致公众混淆的内容进行技术甄别,并在视频中加上明显的标识。同时,执法部门应依法对伪造传播、牟取不法利益行为进行惩罚,让技术滥用者付出应有代价,震慑潜在的违法者。
公众也需提高警惕,学会辨别AI合成视频。专家建议,可以通过要求视频中的人物进行特定动作,如摁鼻子同时摇晃头部,来识别真假。然而,随着AI技术的发展,这些鉴别方式也可能需要不断更新。尤其在涉及资金交易时,公众应更加谨慎,不轻信视频和声音,保护个人信息,尤其是生物信息,减少被AI算法利用的风险。
多方共同努力,才能有效打击AI诈骗,保护每个人的合法权益,让技术真正服务于人类。这需要我们不断加强法律监管,提高公众的自我保护意识,同时也需要技术提供者不断优化技术,确保其安全性和可靠性。
来源:红网
作者:赵明悦
编辑:张瑜
本文为红辣椒评论 原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。